KerasHub:预训练模型 / API文档 / 模型架构 / DepthAnything / DepthAnythingBackbone 模型

DepthAnythingBackbone 模型

[源代码]

DepthAnythingBackbone

keras_hub.models.DepthAnythingBackbone(
    image_encoder,
    reassemble_factors,
    neck_hidden_dims,
    fusion_hidden_dim,
    head_hidden_dim,
    head_in_index,
    feature_keys=None,
    data_format=None,
    dtype=None,
    **kwargs
)

具有超参数的DepthAnything核心网络。

DepthAnything提供了强大的单目深度估计功能,如 Depth Anything V2 所述。

默认构造函数通过将DINOV2作为image_encoder,提供了一个完全可定制的、随机初始化的DepthAnything模型,可以包含任意数量的层、头和嵌入维度。要加载预设的架构和权重,请使用from_preset构造函数。

参数

  • image_encoder: 用于编码输入图像的DINOV2图像编码器。
  • reassemble_factors: 浮点数列表。图像编码器中每个特征图的重组因子。列表的长度必须等于图像编码器中特征图的数量。
  • neck_hidden_dims: 整数。颈部隐藏状态的大小。
  • fusion_hidden_dim: 整数。融合隐藏状态的大小。
  • head_hidden_dim: 整数。颈部隐藏状态的大小。
  • head_in_index: 整数。用于从颈部特征中选择作为头输入特征的索引。
  • feature_keys: 字符串列表。用于从图像编码器中选择特征图的键。如果为None,则使用图像编码器的所有特征图。默认为None
  • data_format: None或str。如果指定,则为"channels_last""channels_first"。输入维度的顺序。"channels_last"对应于形状为(batch_size, height, width, channels)的输入,而"channels_first"对应于形状为(batch_size, channels, height, width)的输入。它默认为Keras配置文件~/.keras/keras.json中找到的image_data_format值。如果您从未设置过,则默认为"channels_last"
  • dtype: string或keras.mixed_precision.DTypePolicy。用于模型计算和权重的dtype。请注意,某些计算(如softmax和层归一化)将始终以float32精度进行,而与dtype无关。

示例

# Pretrained DepthAnything model.
input_data = {
    "images": np.ones(shape=(1, 518, 518, 3), dtype="float32"),
}
model = keras_hub.models.DepthAnythingBackbone.from_preset(
    "depth_anything_v2_small"
)
model(input_data)

# Pretrained DepthAnything model with custom image shape.
input_data = {
    "images": np.ones(shape=(1, 224, 224, 3), dtype="float32"),
}
model = keras_hub.models.DepthAnythingBackbone.from_preset(
    "depth_anything_v2_small", image_shape=(224, 224, 3)
)
model(input_data)

# Randomly initialized DepthAnything model with custom config.
image_encoder = keras_hub.models.DINOV2Backbone(
    patch_size=14,
    num_layers=4,
    hidden_dim=32,
    num_heads=2,
    intermediate_dim=128,
    image_shape=(224, 224, 3),
    position_embedding_shape=(518, 518),
)
model = keras_hub.models.DepthAnythingBackbone(
    image_encoder=image_encoder,
    reassemble_factors=[4, 2, 1, 0.5],
    neck_hidden_dims=[16, 32, 64, 128],
    fusion_hidden_dim=128,
    head_hidden_dim=16,
    head_in_index=-1,
    feature_keys=["Stage1", "Stage2", "Stage3", "Stage4"],
)
model(input_data)

[源代码]

from_preset 方法

DepthAnythingBackbone.from_preset(preset, load_weights=True, **kwargs)

从模型预设实例化一个 keras_hub.models.Backbone

预设是一个包含配置、权重和其他文件资源的目录,用于保存和加载预训练模型。preset 可以作为以下之一传递:

  1. 一个内置的预设标识符,如 'bert_base_en'
  2. 一个 Kaggle Models 句柄,如 'kaggle://user/bert/keras/bert_base_en'
  3. 一个 Hugging Face 句柄,如 'hf://user/bert_base_en'
  4. 一个 ModelScope 句柄,例如 'modelscope://user/bert_base_en'
  5. 一个本地预设目录的路径,如 './bert_base_en'

此构造函数可以通过两种方式之一调用。要么从基类调用,如 keras_hub.models.Backbone.from_preset(),要么从模型类调用,如 keras_hub.models.GemmaBackbone.from_preset()。如果从基类调用,则返回对象的子类将根据预设目录中的配置进行推断。

对于任何 Backbone 子类,您可以运行 cls.presets.keys() 来列出该类上所有可用的内置预设。

参数

  • preset:字符串。一个内置预设标识符、一个 Kaggle Models 句柄、一个 Hugging Face 句柄或一个本地目录的路径。
  • load_weights:布尔值。如果为 `True`,权重将被加载到模型架构中。如果为 `False`,权重将被随机初始化。

示例

# Load a Gemma backbone with pre-trained weights.
model = keras_hub.models.Backbone.from_preset(
    "gemma_2b_en",
)

# Load a Bert backbone with a pre-trained config and random weights.
model = keras_hub.models.Backbone.from_preset(
    "bert_base_en",
    load_weights=False,
)
预设 参数 描述
depth_anything_v2_small 25.31M Depth Anything V2 单目深度估计 (MDE) 模型的小型变体,在合成标记图像和真实未标记图像上进行了训练。
depth_anything_v2_base 98.52M Depth Anything V2 单目深度估计 (MDE) 模型的基础变体,在合成标记图像和真实未标记图像上进行了训练。
depth_anything_v2_large 336.72M Depth Anything V2 单目深度估计 (MDE) 模型的大型变体,在合成标记图像和真实未标记图像上进行了训练。