TextClassifier
类keras_nlp.models.TextClassifier()
所有分类任务的基类。
TextClassifier
任务封装了 keras_nlp.models.Backbone
和 keras_nlp.models.Preprocessor
,以创建一个可用于序列分类的模型。TextClassifier
任务接受一个额外的 num_classes
参数,控制预测输出类的数量。
要使用 fit()
进行微调,请传递一个包含 (x, y)
标签元组的数据集,其中 x
是一个字符串,y
是 [0, num_classes)
中的一个整数。
所有 TextClassifier
任务都包含一个 from_preset()
构造函数,可用于加载预训练的配置和权重。
一些(但并非所有)分类预设在 task.weights.h5
文件中包含分类头权重。对于这些预设,您可以省略传递 num_classes
以恢复保存的分类头。对于所有预设,如果将 num_classes
作为关键字参数传递给 from_preset()
,则分类头将被随机初始化。
示例
# Load a BERT classifier with pre-trained weights.
classifier = keras_nlp.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
# Fine-tune on IMDb movie reviews (or any dataset).
imdb_train, imdb_test = tfds.load(
"imdb_reviews",
split=["train", "test"],
as_supervised=True,
batch_size=16,
)
classifier.fit(imdb_train, validation_data=imdb_test)
# Predict two new examples.
classifier.predict(["What an amazing movie!", "A total waste of my time."])
from_preset
方法TextClassifier.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化 keras_nlp.models.Task
。
预设是用于保存和加载预训练模型的配置、权重和其他文件资产的目录。preset
可以作为以下之一传递:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您可以运行 cls.presets.keys()
以列出该类上所有可用的内置预设。
此构造函数可以通过两种方式之一调用。从任务特定的基类(如 keras_nlp.models.CausalLM.from_preset()
)或从模型类(如 keras_nlp.models.BertTextClassifier.from_preset()
)调用。如果从基类调用,则返回对象的子类将从预设目录中的配置推断得出。
参数
True
,则保存的权重将加载到模型架构中。如果为 False
,则所有权重都将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_nlp.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_nlp.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
compile
方法TextClassifier.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 TextClassifier
任务以进行训练。
TextClassifier
任务扩展了 keras.Model.compile
的默认编译签名,其中包含 optimizer
、loss
和 metrics
的默认值。要覆盖这些默认值,请在编译期间将任何值传递给这些参数。
参数
"auto"
、优化器名称或 keras.Optimizer
实例。默认为 "auto"
,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值的更多信息,请参阅 keras.Model.compile
和 keras.optimizers
。"auto"
、损失名称或 keras.losses.Loss
实例。默认为 "auto"
,其中将应用 keras.losses.SparseCategoricalCrossentropy
损失以进行分类任务。有关可能的 loss
值的更多信息,请参阅 keras.Model.compile
和 keras.losses
。"auto"
或模型在训练和测试期间要评估的指标列表。默认为 "auto"
,其中将应用 keras.metrics.SparseCategoricalAccuracy
来跟踪训练期间模型的准确率。有关可能的 metrics
值的更多信息,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法TextClassifier.save_to_preset(preset_dir)
将任务保存到预设目录。
参数
preprocessor
属性keras_nlp.models.TextClassifier.preprocessor
用于预处理输入的 keras_nlp.models.Preprocessor
层。
backbone
属性keras_nlp.models.TextClassifier.backbone
具有核心架构的 keras_nlp.models.Backbone
模型。