StableDiffusion3ImageToImage 类keras_hub.models.StableDiffusion3ImageToImage(backbone, preprocessor, **kwargs)
一个用于图像到图像生成的端到端 Stable Diffusion 3 模型。
此模型具有一个 generate() 方法，该方法根据参考图像和文本提示的组合生成图像。
参数
keras_hub.models.StableDiffusion3Backbone 实例。keras_hub.models.StableDiffusion3TextToImagePreprocessor 实例。示例
使用 generate() 方法进行图像生成。
prompt = (
"Astronaut in a jungle, cold color palette, muted colors, "
"detailed, 8k"
)
image_to_image = keras_hub.models.StableDiffusion3ImageToImage.from_preset(
"stable_diffusion_3_medium", image_shape=(512, 512, 3)
)
image_to_image.generate(
{
"images": np.ones((512, 512, 3), dtype="float32"),
"prompts": prompt,
}
)
# Generate with batched prompts.
image_to_image.generate(
{
"images": np.ones((2, 512, 512, 3), dtype="float32"),
"prompts": [
"cute wallpaper art of a cat",
"cute wallpaper art of a dog",
],
}
)
# Generate with different `num_steps`, `guidance_scale` and `strength`.
image_to_image.generate(
{
"images": np.ones((512, 512, 3), dtype="float32"),
"prompts": prompt,
}
num_steps=50,
guidance_scale=5.0,
strength=0.6,
)
# Generate with `negative_prompts`.
text_to_image.generate(
{
"images": np.ones((512, 512, 3), dtype="float32"),
"prompts": prompt,
"negative_prompts": "green color",
}
)
from_preset 方法StableDiffusion3ImageToImage.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化一个 keras_hub.models.Task。
预设是一个包含配置、权重和其他文件资产的目录，用于保存和加载预训练模型。preset 可以以下列方式之一传入：
'bert_base_en''kaggle://user/bert/keras/bert_base_en''hf://user/bert_base_en''./bert_base_en'对于任何 Task 子类，您都可以运行 cls.presets.keys() 来列出该类上所有可用的内置预设。
此构造函数可以通过两种方式之一调用。可以从任务特定的基类（如 keras_hub.models.CausalLM.from_preset()）调用，也可以从模型类（如 keras_hub.models.BertTextClassifier.from_preset()）调用。如果从基类调用，则返回对象的子类将从预设目录中的配置推断。
参数
True，则会将保存的权重加载到模型架构中。如果为 False，则所有权重将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
| 预设 | 参数 | 描述 |
|---|---|---|
| stable_diffusion_3_medium | 2.99B | 30亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自编码器。由 Stability AI 开发。 |
| stable_diffusion_3.5_medium | 3.37B | 30亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型以及 VAE 自编码器。由 Stability AI 开发。 |
| stable_diffusion_3.5_large | 9.05B | 90亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自编码器。由 Stability AI 开发。 |
| stable_diffusion_3.5_large_turbo | 9.05B | 90亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自编码器。这是一个步长蒸馏版本，消除了无分类器引导，并使用更少的步数进行生成。由 Stability AI 开发。 |
backbone 属性keras_hub.models.StableDiffusion3ImageToImage.backbone
一个包含核心架构的 keras_hub.models.Backbone 模型。
generate 方法StableDiffusion3ImageToImage.generate(
inputs, num_steps=50, strength=0.8, guidance_scale=7.0, seed=None
)
根据提供的 inputs 生成图像。
通常，inputs 是一个带有 "images" 和 "prompts" 键的字典。"images" 是值范围在 [-1.0, 1.0] 内的参考图像，它们将被调整大小到 self.backbone.height 和 self.backbone.width，然后通过 VAE 编码器编码到潜在空间。"prompts" 是将由文本编码器进行分词和编码的字符串。
一些模型支持 "negative_prompts" 键，这有助于引导模型避免生成某些样式和元素。要启用此功能，请将 "negative_prompts" 添加到输入字典中。
如果 inputs 是一个 tf.data.Dataset，输出将“按批次”生成并连接。否则，所有输入将作为批次进行处理。
参数
tf.data.Dataset。格式必须是以下之一："images"、"prompts" 和/或 "negative_prompts" 键的字典。"images"、"prompts" 和/或 "negative_prompts" 键的 tf.data.Dataset。images 被转换的程度。必须介于 0.0 和 1.0 之间。当 strength=1.0 时，images 基本上被忽略，添加的噪声达到最大，去噪过程运行 num_steps 中指定的全部迭代次数。preprocessor 属性keras_hub.models.StableDiffusion3ImageToImage.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor 层。