TextToImage
类keras_hub.models.TextToImage()
文本到图像任务的基类。
TextToImage
任务封装了一个 keras_hub.models.Backbone
和一个 keras_hub.models.Preprocessor
,以创建一个可用于生成和生成式微调的模型。
TextToImage
任务提供了一个额外的高级 generate()
函数,可用于逐令牌生成图像,其签名为字符串输入、图像输出。
所有 TextToImage
任务都包含一个 from_preset()
构造函数,可用于加载预训练配置和权重。
示例
# Load a Stable Diffusion 3 backbone with pre-trained weights.
text_to_image = keras_hub.models.TextToImage.from_preset(
"stable_diffusion_3_medium",
)
text_to_image.generate(
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
)
# Load a Stable Diffusion 3 backbone at bfloat16 precision.
text_to_image = keras_hub.models.TextToImage.from_preset(
"stable_diffusion_3_medium",
dtype="bfloat16",
)
text_to_image.generate(
"Astronaut in a jungle, cold color palette, muted colors, detailed, 8k"
)
from_preset
方法TextToImage.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化一个 keras_hub.models.Task
。
预设是一个包含配置、权重和其他文件资产的目录,用于保存和加载预训练模型。preset
可以作为以下之一传递:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您都可以运行 cls.presets.keys()
来列出该类上所有可用的内置预设。
此构造函数可以通过两种方式调用:从特定任务的基类(如 keras_hub.models.CausalLM.from_preset()
),或从模型类(如 keras_hub.models.BertTextClassifier.from_preset()
)。如果从基类调用,返回对象的子类将根据预设目录中的配置推断。
参数
True
,已保存的权重将被加载到模型架构中。如果为 False
,所有权重将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
预设 | 参数 | 描述 |
---|---|---|
stable_diffusion_3_medium | 29.9亿 | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_medium | 33.7亿 | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large | 90.5亿 | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。由 Stability AI 开发。 |
stable_diffusion_3.5_large_turbo | 90.5亿 | 90 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自动编码器。这是一个时间步蒸馏版本,消除了无分类器引导,并使用更少的步骤进行生成。由 Stability AI 开发。 |
compile
方法TextToImage.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 TextToImage
任务以进行训练。
TextToImage
任务扩展了 keras.Model.compile
的默认编译签名,并提供了 optimizer
、loss
和 metrics
的默认值。要覆盖这些默认值,请在编译期间将任何值传递给这些参数。
参数
keras.Optimizer
实例。默认为“auto”,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值的更多信息,请参阅 keras.Model.compile
和 keras.optimizers
。keras.losses.Loss
实例。默认为“auto”,其中将应用 keras.losses.MeanSquaredError
损失。有关可能的 loss
值的更多信息,请参阅 keras.Model.compile
和 keras.losses
。keras.metrics.MeanSquaredError
以跟踪模型在训练期间的损失。有关可能的 metrics
值的更多信息,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法TextToImage.save_to_preset(preset_dir, max_shard_size=10)
将任务保存到预设目录。
参数
int
或 float
。每个分片文件的最大大小(以 GB 为单位)。如果为 None
,则不进行分片。默认为 10
。preprocessor
属性keras_hub.models.TextToImage.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor
层。
backbone
属性keras_hub.models.TextToImage.backbone
一个具有核心架构的 keras_hub.models.Backbone
模型。
generate
方法TextToImage.generate(inputs, num_steps, guidance_scale=None, seed=None)
根据提供的 inputs
生成图像。
通常,inputs
包含用于指导图像生成的文本描述(称为提示词)。
一些模型支持 negative_prompts
键,它有助于引导模型避免生成某些风格和元素。要启用此功能,请将 prompts
和 negative_prompts
作为字典传递。
prompt = (
"Astronaut in a jungle, cold color palette, muted colors, "
"detailed, 8k"
)
text_to_image.generate(
{
"prompts": prompt,
"negative_prompts": "green color",
}
)
如果 inputs
是一个 tf.data.Dataset
,输出将“逐批”生成并连接起来。否则,所有输入都将作为批次处理。
参数
tf.data.Dataset
。格式必须是以下之一:tf.data.Dataset