KerasHub: 预训练模型 / API 文档 / 模型架构 / ResNet / ResNetImageConverter

ResNetImageConverter

[源代码]

ResNetImageConverter

keras_hub.layers.ResNetImageConverter(
    image_size=None,
    scale=None,
    offset=None,
    crop_to_aspect_ratio=True,
    pad_to_aspect_ratio=False,
    interpolation="bilinear",
    antialias=False,
    bounding_box_format="yxyx",
    data_format=None,
    **kwargs
)

将原始图像预处理成模型准备好的输入。

此类将原始图像转换为模型准备好的输入。转换过程包括以下步骤:

  1. 使用 image_size 调整图像大小。如果 image_sizeNone,则跳过此步骤。
  2. 将图像乘以 scale 进行缩放,scale 可以是全局值或按通道值。如果 scaleNone,则跳过此步骤。
  3. 通过加上 offset 偏移图像,offset 可以是全局值或按通道值。如果 offsetNone,则不应用偏移。

该层将接收通道在后 (channels last) 或通道在前 (channels first) 格式的原始图像张量作为输入,并输出用于模型预处理的图像输入。此张量可以是批处理的(rank 4)或非批处理的(rank 3)。

该层可以与 from_preset() 构造函数一起使用,以加载一个为特定预训练模型重新缩放和调整图像大小的层。以这种方式使用该层,可以编写无需在模型检查点之间切换时更新的预处理代码。

参数

  • image_size: (int, int) 元组或 None。图像的输出大小,不包括通道轴。如果为 None,则不调整输入大小。
  • scale: float、float 元组或 None。应用于输入的缩放值。如果 scale 是单个 float,则整个输入将乘以 scale。如果 scale 是元组,则假定它包含按通道的缩放值,用于乘以输入图像的每个通道。如果 scaleNone,则不应用缩放。
  • offset: float、float 元组或 None。应用于输入的偏移值。如果 offset 是单个 float,则整个输入将加上 offset。如果 offset 是元组,则假定它包含按通道的偏移值,用于加上输入图像的每个通道。如果 offsetNone,则不应用偏移。
  • crop_to_aspect_ratio: 如果为 True,则调整图像大小而不失真宽高比。当原始宽高比与目标宽高比不同时,将裁剪输出图像,以返回图像中与目标宽高比匹配的最大可能窗口(大小为 (height, width))。默认情况下(crop_to_aspect_ratio=False),可能不会保留宽高比。
  • interpolation: 字符串,插值方法。支持 "bilinear"(双线性)、"nearest"(最近邻)、"bicubic"(双三次)、"lanczos3""lanczos5"。默认为 "bilinear"
  • antialias: 在对图像进行下采样时是否使用抗锯齿滤波器。默认为 False
  • bounding_box_format: 指定边界框格式的字符串,可选值包括 "xyxy""rel_xyxy""xywh""center_xywh""yxyx""rel_yxyx"。指定将与图像一起调整到 image_size 大小的边界框的格式。要将边界框传递给此层,请在调用该层时传递一个包含键 "images""bounding_boxes" 的字典。
  • data_format: 字符串,可选值 "channels_last"(通道在后)或 "channels_first"(通道在前)。输入中维度的顺序。"channels_last" 对应于形状为 (batch, height, width, channels) 的输入,而 "channels_first" 对应于形状为 (batch, channels, height, width) 的输入。它默认为 Keras 配置文件 ~/.keras/keras.json 中的 image_data_format 值。如果您从未设置它,则默认为 "channels_last"

示例

# Resize raw images and scale them to [0, 1].
converter = keras_hub.layers.ImageConverter(
    image_size=(128, 128),
    scale=1. / 255,
)
converter(np.random.randint(0, 256, size=(2, 512, 512, 3)))

# Resize images to the specific size needed for a PaliGemma preset.
converter = keras_hub.layers.ImageConverter.from_preset(
    "pali_gemma_3b_224"
)
converter(np.random.randint(0, 256, size=(2, 512, 512, 3)))

[源代码]

from_preset 方法

ResNetImageConverter.from_preset(preset, **kwargs)

从模型预设实例化一个 keras_hub.layers.ImageConverter

预设是一个包含用于保存和加载预训练模型的配置、权重和其他文件资产的目录。preset 可以是以下任一类型:

  1. 一个内置预设标识符,例如 'pali_gemma_3b_224'
  2. 一个 Kaggle Models 句柄,例如 'kaggle://user/paligemma/keras/pali_gemma_3b_224'
  3. 一个 Hugging Face 句柄,例如 'hf://user/pali_gemma_3b_224'
  4. 一个指向本地预设目录的路径,例如 './pali_gemma_3b_224'

您可以运行 cls.presets.keys() 来列出此类上所有可用的内置预设。

参数

  • preset: 字符串。一个内置预设标识符、一个 Kaggle Models 句柄、一个 Hugging Face 句柄,或一个本地目录的路径。
  • load_weights: 布尔值。如果为 True,权重将加载到模型架构中。如果为 False,权重将随机初始化。

示例

batch = np.random.randint(0, 256, size=(2, 512, 512, 3))

# Resize images for `"pali_gemma_3b_224"`.
converter = keras_hub.layers.ImageConverter.from_preset(
    "pali_gemma_3b_224"
)
converter(batch) # # Output shape (2, 224, 224, 3)

# Resize images for `"pali_gemma_3b_448"` without cropping.
converter = keras_hub.layers.ImageConverter.from_preset(
    "pali_gemma_3b_448",
    crop_to_aspect_ratio=False,
)
converter(batch) # # Output shape (2, 448, 448, 3)
预设 参数 描述
resnet_18_imagenet 11.19M 在 ImageNet 1k 数据集上预训练的 18 层 ResNet 模型,分辨率为 224x224。
resnet_vd_18_imagenet 11.72M 在 ImageNet 1k 数据集上预训练的 18 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。
resnet_vd_34_imagenet 21.84M 在 ImageNet 1k 数据集上预训练的 34 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。
resnet_50_imagenet 23.56M 在 ImageNet 1k 数据集上预训练的 50 层 ResNet 模型,分辨率为 224x224。
resnet_v2_50_imagenet 23.56M 在 ImageNet 1k 数据集上预训练的 50 层 ResNetV2 模型,分辨率为 224x224。
resnet_vd_50_imagenet 25.63M 在 ImageNet 1k 数据集上预训练的 50 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。
resnet_vd_50_ssld_imagenet 25.63M 在 ImageNet 1k 数据集上预训练的 50 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224,并使用知识蒸馏。
resnet_vd_50_ssld_v2_imagenet 25.63M 在 ImageNet 1k 数据集上预训练的 50 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224,并使用知识蒸馏和 AutoAugment。
resnet_vd_50_ssld_v2_fix_imagenet 25.63M 在 ImageNet 1k 数据集上预训练的 50 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224,并使用知识蒸馏、AutoAugment 以及对分类头进行了额外的微调。
resnet_101_imagenet 42.61M 在 ImageNet 1k 数据集上预训练的 101 层 ResNet 模型,分辨率为 224x224。
resnet_v2_101_imagenet 42.61M 在 ImageNet 1k 数据集上预训练的 101 层 ResNetV2 模型,分辨率为 224x224。
resnet_vd_101_imagenet 44.67M 在 ImageNet 1k 数据集上预训练的 101 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。
resnet_vd_101_ssld_imagenet 44.67M 在 ImageNet 1k 数据集上预训练的 101 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224,并使用知识蒸馏。
resnet_152_imagenet 58.30M 在 ImageNet 1k 数据集上预训练的 152 层 ResNet 模型,分辨率为 224x224。
resnet_vd_152_imagenet 60.36M 在 ImageNet 1k 数据集上预训练的 152 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。
resnet_vd_200_imagenet 74.93M 在 ImageNet 1k 数据集上预训练的 200 层 ResNetVD(带有技巧包的 ResNet)模型,分辨率为 224x224。