ImageToImage
类keras_hub.models.ImageToImage()
用于图像到图像任务的基类。
ImageToImage
任务封装了一个 keras_hub.models.Backbone
和一个 keras_hub.models.Preprocessor
,以创建一个可用于生成和生成式微调的模型。
ImageToImage
任务提供了一个额外的高级 generate()
函数,可用于通过令牌生成图像,其签名形式为 (图像, 字符串) 输入,图像输出。
所有 ImageToImage
任务都包含一个 from_preset()
构造函数,可用于加载预训练配置和权重。
示例
# Load a Stable Diffusion 3 backbone with pre-trained weights.
reference_image = np.ones((1024, 1024, 3), dtype="float32")
image_to_image = keras_hub.models.ImageToImage.from_preset(
"stable_diffusion_3_medium",
)
image_to_image.generate(
reference_image,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
# Load a Stable Diffusion 3 backbone at bfloat16 precision.
image_to_image = keras_hub.models.ImageToImage.from_preset(
"stable_diffusion_3_medium",
dtype="bfloat16",
)
image_to_image.generate(
reference_image,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
from_preset
方法ImageToImage.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化一个 keras_hub.models.Task
。
预设是一个包含配置、权重和其他文件资产的目录,用于保存和加载预训练模型。preset
可以以下列方式之一传入:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您可以运行 cls.presets.keys()
来列出该类上所有可用的内置预设。
此构造函数可以通过以下两种方式之一调用。可以从特定于任务的基类(如 keras_hub.models.CausalLM.from_preset()
)调用,也可以从模型类(如 keras_hub.models.BertTextClassifier.from_preset()
)调用。如果从基类调用,返回对象的子类将从预设目录中的配置推断出来。
参数
True
,则会将保存的权重加载到模型架构中。如果为 False
,则所有权重将随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
预设 | 参数 | 描述 |
---|---|---|
stable_diffusion_3_medium | 2.99B | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_medium | 3.37B | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型和 VAE 自编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large | 9.05B | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large_turbo | 9.05B | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。这是一个时间步蒸馏版本,消除了无分类器引导,并使用更少的步骤进行生成。由 Stability AI 开发。 |
compile
方法ImageToImage.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 ImageToImage
任务以进行训练。
ImageToImage
任务扩展了 keras.Model.compile
的默认编译签名,提供了 optimizer
、loss
和 metrics
的默认值。要覆盖这些默认值,请在编译期间向这些参数传递任何值。
参数
"auto"
、优化器名称或 keras.Optimizer
实例。默认为 "auto"
,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值,请参阅 keras.Model.compile
和 keras.optimizers
。"auto"
、损失名称或 keras.losses.Loss
实例。默认为 "auto"
,此时将应用 keras.losses.MeanSquaredError
损失。有关可能的 loss
值,请参阅 keras.Model.compile
和 keras.losses
。"auto"
,或模型在训练和测试期间评估的指标列表。默认为 "auto"
,此时将应用 keras.metrics.MeanSquaredError
以跟踪模型在训练期间的损失。有关可能的 metrics
值,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法ImageToImage.save_to_preset(preset_dir)
将任务保存到预设目录。
参数
preprocessor
属性keras_hub.models.ImageToImage.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor
层。
backbone
属性keras_hub.models.ImageToImage.backbone
具有核心架构的 keras_hub.models.Backbone
模型。
generate
方法ImageToImage.generate(inputs, num_steps, strength, guidance_scale=None, seed=None)
基于提供的 inputs
生成图像。
通常,inputs
是一个包含 "images"
和 "prompts"
键的字典。"images"
是值范围在 [-1.0, 1.0]
之间的参考图像,将被调整大小到 self.backbone.height
和 self.backbone.width
,然后由 VAE 编码器编码到潜在空间。"prompts"
是字符串,将由文本编码器进行分词和编码。
一些模型支持 "negative_prompts"
键,这有助于引导模型避免生成某些风格和元素。要启用此功能,请在输入字典中添加 "negative_prompts"
。
如果 inputs
是一个 tf.data.Dataset
,则输出将“按批次”生成并连接。否则,所有输入将按批次处理。
参数
tf.data.Dataset
。格式必须是以下之一:"images"
、"prompts"
和/或 "negative_prompts"
键的字典。"images"
、"prompts"
和/或 "negative_prompts"
键的 tf.data.Dataset
。images
转换的程度。必须介于 0.0
和 1.0
之间。当 strength=1.0
时,images
基本上被忽略,添加的噪声最大,并且去噪过程运行完整的 num_steps
指定的迭代次数。