KerasHub: 预训练模型 / API 文档 / 模型架构 / Stable Diffusion 3 / StableDiffusion3TextToImage 模型

StableDiffusion3TextToImage 模型

[source]

StableDiffusion3TextToImage

keras_hub.models.StableDiffusion3TextToImage(backbone, preprocessor, **kwargs)

一个用于文本到图像生成的端到端 Stable Diffusion 3 模型。

此模型有一个 generate() 方法,用于根据提示生成图像。

参数

示例

使用 generate() 方法进行图像生成。

text_to_image = keras_hub.models.StableDiffusion3TextToImage.from_preset(
    "stable_diffusion_3_medium", image_shape=(512, 512, 3)
)
text_to_image.generate(
    "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
)

# Generate with batched prompts.
text_to_image.generate(
    ["cute wallpaper art of a cat", "cute wallpaper art of a dog"]
)

# Generate with different `num_steps` and `guidance_scale`.
text_to_image.generate(
    "Astronaut in a jungle, cold color palette, muted colors, detailed, 8k",
    num_steps=50,
    guidance_scale=5.0,
)

# Generate with `negative_prompts`.
prompt = (
    "Astronaut in a jungle, cold color palette, muted colors, "
    "detailed, 8k"
)
text_to_image.generate(
    {
        "prompts": prompt,
        "negative_prompts": "green color",
    }
)

[source]

from_preset 方法

StableDiffusion3TextToImage.from_preset(preset, load_weights=True, **kwargs)

从模型预设中实例化一个 keras_hub.models.Task

预设是用于保存和加载预训练模型的配置、权重及其他文件资产的目录。preset 可以以下列形式之一传递:

  1. 内置预设标识符,例如 'bert_base_en'
  2. Kaggle Models 句柄,例如 'kaggle://user/bert/keras/bert_base_en'
  3. Hugging Face 句柄,例如 'hf://user/bert_base_en'
  4. 本地预设目录的路径,例如 './bert_base_en'

对于任何 Task 子类,你可以运行 cls.presets.keys() 来列出该类上所有可用的内置预设。

这个构造函数可以通过两种方式之一调用。要么从任务特定的基类调用,例如 keras_hub.models.CausalLM.from_preset(),要么从模型类调用,例如 keras_hub.models.BertTextClassifier.from_preset()。如果从基类调用,返回对象的子类将根据预设目录中的配置进行推断。

参数

  • preset:字符串。内置预设标识符、Kaggle Models 句柄、Hugging Face 句柄或本地目录的路径。
  • load_weights:布尔值。如果为 True,则会将保存的权重加载到模型架构中。如果为 False,则所有权重都将随机初始化。

示例

# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
    "gemma_2b_en",
)

# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
    "bert_base_en",
    num_classes=2,
)
预设 参数 描述
stable_diffusion_3_medium 2.99B 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自动编码器。由 Stability AI 开发。
stable_diffusion_3.5_medium 3.37B 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型以及 VAE 自动编码器。由 Stability AI 开发。
stable_diffusion_3.5_large 9.05B 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自动编码器。由 Stability AI 开发。
stable_diffusion_3.5_large_turbo 9.05B 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型以及 VAE 自动编码器。这是一个经过时间步蒸馏的版本,消除了无分类器引导,并使用更少的步骤进行生成。由 Stability AI 开发。

backbone 属性

keras_hub.models.StableDiffusion3TextToImage.backbone

一个包含核心架构的 keras_hub.models.Backbone 模型。


[source]

generate 方法

StableDiffusion3TextToImage.generate(
    inputs, num_steps=28, guidance_scale=7.0, seed=None
)

根据提供的 inputs 生成图像。

通常,inputs 包含用于指导图像生成的文本描述(称为提示词或 prompt)。

一些模型支持 negative_prompts 键,这有助于引导模型避免生成某些风格和元素。要启用此功能,请将 promptsnegative_prompts 作为字典传递。

prompt = (
    "Astronaut in a jungle, cold color palette, muted colors, "
    "detailed, 8k"
)
text_to_image.generate(
    {
        "prompts": prompt,
        "negative_prompts": "green color",
    }
)

如果 inputs 是一个 tf.data.Dataset,输出将“分批”生成并拼接。否则,所有输入都将作为批次处理。

参数

  • inputs:Python 数据、张量数据或一个 tf.data.Dataset。格式必须是以下之一:
    • 单个字符串
    • 字符串列表
    • 包含 "prompts" 和/或 "negative_prompts" 键的字典
    • 包含 "prompts" 和/或 "negative_prompts" 键的 tf.data.Dataset
  • num_steps:整数。要执行的扩散步数。
  • guidance_scale:可选浮点数。无分类器扩散引导中定义的无分类器引导尺度。更高的尺度鼓励生成与提示词更密切相关的图像,但这通常会牺牲图像质量。请注意,某些模型不使用无分类器引导。
  • seed:可选整数。用作随机种子。

preprocessor 属性

keras_hub.models.StableDiffusion3TextToImage.preprocessor

一个用于预处理输入的 keras_hub.models.Preprocessor 层。