分类器

[源代码]

Classifier

keras_nlp.models.Classifier()

所有分类任务的基类。

Classifier 任务包装一个 keras_nlp.models.Backbone 和一个 keras_nlp.models.Preprocessor 来创建一个模型,该模型可用于序列分类。Classifier 任务接受一个额外的 num_classes 参数,控制预测输出类的数量。

要使用 fit() 进行微调,请传递一个包含 (x, y) 标签元组的数据集,其中 x 是一个字符串,y[0, num_classes) 中的整数。

所有 Classifier 任务都包含一个 from_preset() 构造函数,可用于加载预训练的配置和权重。

示例

# Load a BERT classifier with pre-trained weights.
classifier = keras_nlp.models.Classifier.from_preset(
    "bert_base_en",
    num_classes=2,
)
# Fine-tune on IMDb movie reviews (or any dataset).
imdb_train, imdb_test = tfds.load(
    "imdb_reviews",
    split=["train", "test"],
    as_supervised=True,
    batch_size=16,
)
classifier.fit(imdb_train, validation_data=imdb_test)
# Predict two new examples.
classifier.predict(["What an amazing movie!", "A total waste of my time."])

[源代码]

from_preset 方法

Classifier.from_preset(preset, load_weights=True, **kwargs)

从模型预设实例化一个 keras_nlp.models.Task

预设是一个包含配置、权重和其他文件资产的目录,用于保存和加载预训练模型。preset 可以作为以下之一传递

  1. 内置预设标识符,如 'bert_base_en'
  2. Kaggle 模型句柄,如 'kaggle://user/bert/keras/bert_base_en'
  3. Hugging Face 句柄,如 'hf://user/bert_base_en'
  4. 本地预设目录的路径,如 './bert_base_en'

对于任何 Task 子类,您都可以运行 cls.presets.keys() 来列出该类上可用的所有内置预设。

此构造函数可以通过两种方式之一调用。要么从任务特定的基类调用,如 keras_nlp.models.CausalLM.from_preset(),要么从模型类调用,如 keras_nlp.models.BertClassifier.from_preset()。如果从基类调用,返回对象的子类将从预设目录中的配置推断出来。

参数

  • preset: 字符串。内置预设标识符、Kaggle 模型句柄、Hugging Face 句柄或本地目录的路径。
  • load_weights: 布尔值。如果为 True,则权重将加载到模型架构中。如果为 False,则权重将被随机初始化。

示例

# Load a Gemma generative task.
causal_lm = keras_nlp.models.CausalLM.from_preset(
    "gemma_2b_en",
)

# Load a Bert classification task.
model = keras_nlp.models.Classifier.from_preset(
    "bert_base_en",
    num_classes=2,
)

[源代码]

compile 方法

Classifier.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)

配置 Classifier 任务以进行训练。

Classifier 任务扩展了 keras.Model.compile 的默认编译签名,为 optimizerlossmetrics 设置默认值。要覆盖这些默认值,在编译期间将任何值传递给这些参数。

参数

  • optimizer: "auto"、优化器名称或 keras.Optimizer 实例。默认为 "auto",它使用给定模型和任务的默认优化器。有关可能的 optimizer 值的更多信息,请参阅 keras.Model.compilekeras.optimizers
  • loss: "auto"、损失名称或 keras.losses.Loss 实例。默认为 "auto",其中将为分类任务应用 keras.losses.SparseCategoricalCrossentropy 损失。有关可能的 loss 值的更多信息,请参阅 keras.Model.compilekeras.losses
  • metrics: "auto" 或模型在训练和测试期间要评估的指标列表。默认为 "auto",其中将应用 keras.metrics.SparseCategoricalAccuracy 来跟踪模型在训练期间的准确率。有关可能的 metrics 值的更多信息,请参阅 keras.Model.compilekeras.metrics
  • **kwargs: 有关编译方法支持的完整参数列表,请参阅 keras.Model.compile

[源代码]

save_to_preset 方法

Classifier.save_to_preset(preset_dir)

将任务保存到预设目录。

参数

  • preset_dir: 本地模型预设目录的路径。

preprocessor 属性

keras_nlp.models.Classifier.preprocessor

一个 keras_nlp.models.Preprocessor 层,用于预处理输入。


backbone 属性

keras_nlp.models.Classifier.backbone

一个 keras_nlp.models.Backbone 模型,具有核心架构。