SigLIPImageConverter
类keras_hub.layers.SigLIPImageConverter(
image_size=None,
scale=None,
offset=None,
crop_to_aspect_ratio=True,
pad_to_aspect_ratio=False,
interpolation="bilinear",
antialias=False,
bounding_box_format="yxyx",
data_format=None,
**kwargs
)
将原始图像预处理为模型就绪输入。
此类将原始图像转换为模型就绪输入。转换过程包括以下步骤
image_size
调整图像大小。如果 image_size
为 None
,则跳过此步骤。scale
来重新缩放图像,scale
可以是全局的或按通道的。如果 scale
为 None
,则跳过此步骤。offset
来偏移图像,offset
可以是全局的或按通道的。如果 offset
为 None
,则跳过此步骤。此层将原始图像张量作为输入,可以是通道在后或通道在前的格式,并输出用于建模的预处理图像输入。此张量可以按批次处理(rank 4),也可以不按批次处理(rank 3)。
此层可与 from_preset()
构造函数一起使用,以加载用于为特定预训练模型重新缩放和调整图像大小的层。以这种方式使用此层可以编写无需在模型检查点之间切换时更新的预处理代码。
参数
(int, int)
元组或 None
。图像的输出大小,不包括通道轴。如果为 None
,则不会调整输入大小。None
。应用于输入的比例。如果 scale
是单个浮点数,则整个输入将乘以 scale
。如果 scale
是元组,则假定它包含每个通道的比例值,该值将乘以输入图像的每个通道。如果 scale
为 None
,则不应用缩放。None
。应用于输入的偏移量。如果 offset
是单个浮点数,则整个输入将与 offset
求和。如果 offset
是元组,则假定它包含每个通道的偏移值,该值将与输入图像的每个通道求和。如果 offset
为 None
,则不应用缩放。True
,则在不扭曲纵横比的情况下调整图像大小。当原始纵横比与目标纵横比不同时,将裁剪输出图像,以返回图像中匹配目标纵横比的最大可能窗口(大小为 (height, width)
)。默认情况下 (crop_to_aspect_ratio=False
),可能不会保留纵横比。"bilinear"
、"nearest"
、"bicubic"
、"lanczos3"
、"lanczos5"
。默认为 "bilinear"
。False
。"xyxy"
、"rel_xyxy"
、"xywh"
、"center_xywh"
、"yxyx"
、"rel_yxyx"
之一。指定将与图像一起调整到 image_size
的边界框的格式。要将边界框传递给此层,在调用此层时传递一个包含键 "images"
和 "bounding_boxes"
的字典。"channels_last"
或 "channels_first"
。输入维度的顺序。"channels_last"
对应于形状为 (batch, height, width, channels)
的输入,而 "channels_first"
对应于形状为 (batch, channels, height, width)
的输入。它默认为您 Keras 配置文件 ~/.keras/keras.json
中找到的 image_data_format
值。如果您从未设置过,则为 "channels_last"
。示例
# Resize raw images and scale them to [0, 1].
converter = keras_hub.layers.ImageConverter(
image_size=(128, 128),
scale=1. / 255,
)
converter(np.random.randint(0, 256, size=(2, 512, 512, 3)))
# Resize images to the specific size needed for a PaliGemma preset.
converter = keras_hub.layers.ImageConverter.from_preset(
"pali_gemma_3b_224"
)
converter(np.random.randint(0, 256, size=(2, 512, 512, 3)))
from_preset
方法SigLIPImageConverter.from_preset(preset, **kwargs)
从模型预设实例化一个 keras_hub.layers.ImageConverter
。
预设是用于保存和加载预训练模型的配置、权重和其他文件资产的目录。可以将 preset
作为以下之一传递
'pali_gemma_3b_224'
'kaggle://user/paligemma/keras/pali_gemma_3b_224'
'hf://user/pali_gemma_3b_224'
'./pali_gemma_3b_224'
您可以运行 cls.presets.keys()
列出类上所有可用的内置预设。
参数
True
,权重将被加载到模型架构中。如果为 False
,权重将被随机初始化。示例
batch = np.random.randint(0, 256, size=(2, 512, 512, 3))
# Resize images for `"pali_gemma_3b_224"`.
converter = keras_hub.layers.ImageConverter.from_preset(
"pali_gemma_3b_224"
)
converter(batch) # # Output shape (2, 224, 224, 3)
# Resize images for `"pali_gemma_3b_448"` without cropping.
converter = keras_hub.layers.ImageConverter.from_preset(
"pali_gemma_3b_448",
crop_to_aspect_ratio=False,
)
converter(batch) # # Output shape (2, 448, 448, 3)
预设 | 参数 | 描述 |
---|---|---|
siglip_base_patch16_224 | 203.16M | 2 亿参数,图像大小 224,在 WebLi 上预训练。 |
siglip_base_patch16_256 | 203.20M | 2 亿参数,图像大小 256,在 WebLi 上预训练。 |
siglip_base_patch16_384 | 203.45M | 2 亿参数,图像大小 384,在 WebLi 上预训练。 |
siglip_base_patch16_512 | 203.79M | 2 亿参数,图像大小 512,在 WebLi 上预训练。 |
siglip_base_patch16_256_multilingual | 370.63M | 3.7 亿参数,图像大小 256,在 WebLi 上预训练。 |
siglip2_base_patch16_224 | 375.19M | 3.75 亿参数,patch 大小 16,图像大小 224,在 WebLi 上预训练。 |
siglip2_base_patch16_256 | 375.23M | 3.75 亿参数,patch 大小 16,图像大小 256,在 WebLi 上预训练。 |
siglip2_base_patch32_256 | 376.86M | 3.76 亿参数,patch 大小 32,图像大小 256,在 WebLi 上预训练。 |
siglip2_base_patch16_384 | 376.86M | 3.76 亿参数,patch 大小 16,图像大小 384,在 WebLi 上预训练。 |
siglip_large_patch16_256 | 652.15M | 6.52 亿参数,图像大小 256,在 WebLi 上预训练。 |
siglip_large_patch16_384 | 652.48M | 6.52 亿参数,图像大小 384,在 WebLi 上预训练。 |
siglip_so400m_patch14_224 | 877.36M | 8.77 亿参数,图像大小 224,形状优化版本,在 WebLi 上预训练。 |
siglip_so400m_patch14_384 | 877.96M | 8.77 亿参数,图像大小 384,形状优化版本,在 WebLi 上预训练。 |
siglip2_large_patch16_256 | 881.53M | 8.81 亿参数,patch 大小 16,图像大小 256,在 WebLi 上预训练。 |
siglip2_large_patch16_384 | 881.86M | 8.81 亿参数,patch 大小 16,图像大小 384,在 WebLi 上预训练。 |
siglip2_large_patch16_512 | 882.31M | 8.82 亿参数,patch 大小 16,图像大小 512,在 WebLi 上预训练。 |
siglip_so400m_patch16_256_i18n | 1.13B | 11 亿参数,图像大小 256,形状优化版本,在 WebLi 上预训练。 |
siglip2_so400m_patch14_224 | 1.14B | 11 亿参数,patch 大小 14,图像大小 224,形状优化版本,在 WebLi 上预训练。 |
siglip2_so400m_patch16_256 | 1.14B | 11 亿参数,patch 大小 16,图像大小 256,形状优化版本,在 WebLi 上预训练。 |
siglip2_so400m_patch14_384 | 1.14B | 11 亿参数,patch 大小 14,图像大小 224,形状优化版本,在 WebLi 上预训练。 |
siglip2_so400m_patch16_384 | 1.14B | 11 亿参数,patch 大小 16,图像大小 384,形状优化版本,在 WebLi 上预训练。 |
siglip2_so400m_patch16_512 | 1.14B | 11 亿参数,patch 大小 16,图像大小 512,形状优化版本,在 WebLi 上预训练。 |
siglip2_giant_opt_patch16_256 | 1.87B | 18 亿参数,patch 大小 16,图像大小 256,在 WebLi 上预训练。 |
siglip2_giant_opt_patch16_384 | 1.87B | 18 亿参数,patch 大小 16,图像大小 384,在 WebLi 上预训练。 |