Inpaint
类keras_hub.models.Inpaint()
图像到图像任务的基类。
Inpaint
任务封装了一个 keras_hub.models.Backbone
和一个 keras_hub.models.Preprocessor
,以创建一个可用于生成和生成性微调的模型。
Inpaint
任务提供了一个额外的高级 generate()
函数,可用于通过令牌生成图像,其签名是(图像、掩码、字符串)输入,图像输出。
所有 Inpaint
任务都包含一个 from_preset()
构造函数,可用于加载预训练配置和权重。
示例
# Load a Stable Diffusion 3 backbone with pre-trained weights.
reference_image = np.ones((1024, 1024, 3), dtype="float32")
reference_mask = np.ones((1024, 1024), dtype="float32")
inpaint = keras_hub.models.Inpaint.from_preset(
"stable_diffusion_3_medium",
)
inpaint.generate(
reference_image,
reference_mask,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
# Load a Stable Diffusion 3 backbone at bfloat16 precision.
inpaint = keras_hub.models.Inpaint.from_preset(
"stable_diffusion_3_medium",
dtype="bfloat16",
)
inpaint.generate(
reference_image,
reference_mask,
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
)
from_preset
方法Inpaint.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化一个 keras_hub.models.Task
。
预设是一个包含配置、权重和其他文件资产的目录,用于保存和加载预训练模型。preset
可以作为以下之一传递:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您都可以运行 cls.presets.keys()
来列出该类上所有可用的内置预设。
此构造函数可以通过两种方式调用。可以从特定任务的基类(如 keras_hub.models.CausalLM.from_preset()
)调用,也可以从模型类(如 keras_hub.models.BertTextClassifier.from_preset()
)调用。如果从基类调用,则返回对象的子类将根据预设目录中的配置推断。
参数
True
,已保存的权重将被加载到模型架构中。如果为 False
,所有权重将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
预设 | 参数 | 描述 |
---|---|---|
stable_diffusion_3_medium | 29.9亿 | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_medium | 33.7亿 | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large | 90.5亿 | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large_turbo | 90.5亿 | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。这是一个时间步蒸馏版本,消除了无分类器引导,并使用更少的步骤进行生成。由 Stability AI 开发。 |
compile
方法Inpaint.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 Inpaint
任务进行训练。
Inpaint
任务通过 optimizer
、loss
和 metrics
的默认值扩展了 keras.Model.compile
的默认编译签名。要覆盖这些默认值,请在编译期间将任何值传递给这些参数。
参数
keras.Optimizer
实例。默认为“auto”,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值的更多信息,请参阅 keras.Model.compile
和 keras.optimizers
。keras.losses.Loss
实例。默认为“auto”,其中将应用 keras.losses.MeanSquaredError
损失。有关可能的 loss
值的更多信息,请参阅 keras.Model.compile
和 keras.losses
。keras.metrics.MeanSquaredError
以跟踪模型在训练期间的损失。有关可能的 metrics
值的更多信息,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法Inpaint.save_to_preset(preset_dir, max_shard_size=10)
将任务保存到预设目录。
参数
int
或 float
。每个分片文件的最大大小(以 GB 为单位)。如果为 None
,则不进行分片。默认为 10
。preprocessor
属性keras_hub.models.Inpaint.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor
层。
backbone
属性keras_hub.models.Inpaint.backbone
一个具有核心架构的 keras_hub.models.Backbone
模型。
generate
方法Inpaint.generate(inputs, num_steps, strength, guidance_scale=None, seed=None)
根据提供的 inputs
生成图像。
通常,inputs
是一个字典,包含 "images"
、"masks"
和 "prompts"
键。"images"
是值范围在 [-1.0, 1.0]
之间的参考图像,它们将被调整为 self.backbone.image_shape
的高度和宽度,然后由 VAE 编码器编码到潜在空间中。"masks"
是布尔 dtype 的掩码图像,其中白色像素将被重新绘制,而黑色像素将被保留。"prompts"
是将由文本编码器分词和编码的字符串。
一些模型支持 "negative_prompts"
键,这有助于引导模型避免生成某些风格和元素。要启用此功能,请将 "negative_prompts"
添加到输入字典中。
如果 inputs
是一个 tf.data.Dataset
,输出将“逐批”生成并连接起来。否则,所有输入都将作为批次处理。
参数
tf.data.Dataset
。格式必须是以下之一:"images"
、"masks"
、"prompts"
和/或 "negative_prompts"
键的字典。"images"
、"masks"
、"prompts"
和/或 "negative_prompts"
键的 tf.data.Dataset
。images
转换的程度。必须介于 0.0
和 1.0
之间。当 strength=1.0
时,images
基本被忽略,添加的噪声最大,去噪过程运行 num_steps
中指定的全部迭代次数。