Inpaint
类keras_hub.models.Inpaint()
图像到图像任务的基础类。
Inpaint
任务封装了一个 keras_hub.models.Backbone
和一个 keras_hub.models.Preprocessor
,以创建一个可用于生成和生成式微调的模型。
Inpaint
任务提供了一个额外的高级 generate()
函数,可用于按标记生成图像,其输入为 (图像, 掩码, 字符串),输出为图像。
所有 Inpaint
任务都包含一个 from_preset()
构造函数,可用于加载预训练的配置和权重。
示例
# Load a Stable Diffusion 3 backbone with pre-trained weights.
reference_image = np.ones((1024, 1024, 3), dtype="float32")
reference_mask = np.ones((1024, 1024), dtype="float32")
inpaint = keras_hub.models.Inpaint.from_preset(
"stable_diffusion_3_medium",
)
inpaint.generate(
reference_image,
reference_mask,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
# Load a Stable Diffusion 3 backbone at bfloat16 precision.
inpaint = keras_hub.models.Inpaint.from_preset(
"stable_diffusion_3_medium",
dtype="bfloat16",
)
inpaint.generate(
reference_image,
reference_mask,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
from_preset
方法Inpaint.from_preset(preset, load_weights=True, **kwargs)
从模型预设中实例化一个 keras_hub.models.Task
。
预设是一个包含用于保存和加载预训练模型的配置、权重及其他文件资产的目录。preset
可以是以下任意一种形式:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您可以运行 cls.presets.keys()
来列出该类上所有可用的内置预设。
这个构造函数可以通过两种方式调用。一种是从任务特定的基础类(例如 keras_hub.models.CausalLM.from_preset()
)调用,另一种是从模型类(例如 keras_hub.models.BertTextClassifier.from_preset()
)调用。如果从基础类调用,返回对象的子类将从预设目录中的配置推断。
参数
True
,将把保存的权重加载到模型架构中。如果为 False
,所有权重将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
预设 | 参数 | 描述 |
---|---|---|
stable_diffusion_3_medium | 2.99B | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_medium | 3.37B | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large | 9.05B | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large_turbo | 9.05B | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。这是一个时间步长蒸馏版本,消除了无分类器指导并使用更少的步骤进行生成。由 Stability AI 开发。 |
compile
方法Inpaint.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 Inpaint
任务进行训练。
Inpaint
任务扩展了 keras.Model.compile
的默认编译签名,并为 optimizer
、loss
和 metrics
提供了默认值。要覆盖这些默认值,请在编译期间为这些参数传递任何值。
参数
"auto"
、优化器名称或 keras.Optimizer
实例。默认为 "auto"
,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值,请参阅 keras.Model.compile
和 keras.optimizers
。"auto"
、损失名称或 keras.losses.Loss
实例。默认为 "auto"
,此时将应用 keras.losses.MeanSquaredError
损失。有关可能的 loss
值,请参阅 keras.Model.compile
和 keras.losses
。"auto"
,或模型在训练和测试期间要评估的指标列表。默认为 "auto"
,此时将应用 keras.metrics.MeanSquaredError
来跟踪模型在训练期间的损失。有关可能的 metrics
值,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法Inpaint.save_to_preset(preset_dir)
将任务保存到预设目录。
参数
preprocessor
属性keras_hub.models.Inpaint.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor
层。
backbone
属性keras_hub.models.Inpaint.backbone
具有核心架构的 keras_hub.models.Backbone
模型。
generate
方法Inpaint.generate(inputs, num_steps, strength, guidance_scale=None, seed=None)
根据提供的 inputs
生成图像。
通常,inputs
是一个包含 "images"
、"masks"
和 "prompts"
键的字典。"images"
是值范围在 [-1.0, 1.0]
的参考图像,它们将被缩放至 self.backbone.image_shape
的高度和宽度,然后由 VAE 编码器编码到潜在空间。"masks"
是布尔 dtype 的掩码图像,其中白色像素会被重新绘制,而黑色像素会被保留。"prompts"
是字符串,将由文本编码器进行标记化和编码。
一些模型支持 "negative_prompts"
键,这有助于引导模型避免生成某些样式和元素。要启用此功能,请将 "negative_prompts"
添加到输入字典中。
如果 inputs
是 tf.data.Dataset
,则输出将“按批次”生成并连接。否则,所有输入都将作为批次处理。
参数
tf.data.Dataset
。格式必须是以下之一:"images"
、"masks"
、"prompts"
和/或 "negative_prompts"
键的字典。"images"
、"masks"
、"prompts"
和/或 "negative_prompts"
键的 tf.data.Dataset
。images
被转换的程度。必须介于 0.0
和 1.0
之间。当 strength=1.0
时,images
基本上被忽略,添加的噪声最大,并且去噪过程会运行 num_steps
中指定的完整迭代次数。