TextClassifier
类keras_hub.models.TextClassifier(*args, compile=True, **kwargs)
所有分类任务的基类。
TextClassifier
任务封装了一个 keras_hub.models.Backbone
和一个 keras_hub.models.Preprocessor
,以创建可用于序列分类的模型。TextClassifier
任务接受一个额外的 num_classes
参数,用于控制预测输出类的数量。
要使用 fit()
进行微调,请传递一个包含 (x, y)
标签元组的数据集,其中 x
是字符串,y
是 [0, num_classes)
范围内的整数。
所有 TextClassifier
任务都包含一个 from_preset()
构造函数,可用于加载预训练配置和权重。
某些(但不是所有)分类预设在 task.weights.h5
文件中包含分类头权重。对于这些预设,您可以省略传递 num_classes
以恢复已保存的分类头。对于所有预设,如果将 num_classes
作为 kwarg 传递给 from_preset()
,则分类头将随机初始化。
示例
# Load a BERT classifier with pre-trained weights.
classifier = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
# Fine-tune on IMDb movie reviews (or any dataset).
imdb_train, imdb_test = tfds.load(
"imdb_reviews",
split=["train", "test"],
as_supervised=True,
batch_size=16,
)
classifier.fit(imdb_train, validation_data=imdb_test)
# Predict two new examples.
classifier.predict(["What an amazing movie!", "A total waste of my time."])
from_preset
方法TextClassifier.from_preset(preset, load_weights=True, **kwargs)
从模型预设实例化一个 keras_hub.models.Task
。
预设是一个包含配置、权重和其他文件资产的目录,用于保存和加载预训练模型。preset
可以作为以下之一传递:
'bert_base_en'
'kaggle://user/bert/keras/bert_base_en'
'hf://user/bert_base_en'
'./bert_base_en'
对于任何 Task
子类,您都可以运行 cls.presets.keys()
来列出该类上所有可用的内置预设。
此构造函数可以通过两种方式调用。可以从特定于任务的基类(例如 keras_hub.models.CausalLM.from_preset()
)调用,也可以从模型类(例如 keras_hub.models.BertTextClassifier.from_preset()
)调用。如果从基类调用,则返回对象的子类将从预设目录中的配置推断。
参数
True
,已保存的权重将被加载到模型架构中。如果为 False
,所有权重将被随机初始化。示例
# Load a Gemma generative task.
causal_lm = keras_hub.models.CausalLM.from_preset(
"gemma_2b_en",
)
# Load a Bert classification task.
model = keras_hub.models.TextClassifier.from_preset(
"bert_base_en",
num_classes=2,
)
预设 | 参数 | 描述 |
---|---|---|
albert_base_en_uncased | 11.68M | 12 层 ALBERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
albert_large_en_uncased | 17.68M | 24 层 ALBERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
albert_extra_large_en_uncased | 58.72M | 24 层 ALBERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
albert_extra_extra_large_en_uncased | 222.60M | 12 层 ALBERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
bert_tiny_en_uncased | 4.39M | 2 层 BERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
bert_tiny_en_uncased_sst2 | 4.39M | 在 SST-2 情感分析数据集上微调的 bert_tiny_en_uncased 骨干模型。 |
bert_small_en_uncased | 28.76M | 4 层 BERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
bert_medium_en_uncased | 41.37M | 8 层 BERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
bert_base_zh | 102.27M | 12 层 BERT 模型。在中文维基百科上训练。 |
bert_base_en | 108.31M | 12 层 BERT 模型,大小写保持不变。在英文维基百科 + BooksCorpus 上训练。 |
bert_base_en_uncased | 109.48M | 12 层 BERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
bert_base_multi | 177.85M | 12 层 BERT 模型,大小写保持不变。在 104 种语言的维基百科上训练。 |
bert_large_en | 333.58M | 24 层 BERT 模型,大小写保持不变。在英文维基百科 + BooksCorpus 上训练。 |
bert_large_en_uncased | 335.14M | 24 层 BERT 模型,所有输入均小写。在英文维基百科 + BooksCorpus 上训练。 |
deberta_v3_extra_small_en | 70.68M | 12 层 DeBERTaV3 模型,大小写保持不变。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 |
deberta_v3_small_en | 141.30M | 6 层 DeBERTaV3 模型,大小写保持不变。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 |
deberta_v3_base_en | 183.83M | 12 层 DeBERTaV3 模型,大小写保持不变。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 |
deberta_v3_base_multi | 278.22M | 12 层 DeBERTaV3 模型,大小写保持不变。在 2.5TB 多语言 CC100 数据集上训练。 |
deberta_v3_large_en | 434.01M | 24 层 DeBERTaV3 模型,大小写保持不变。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 |
distil_bert_base_en | 65.19M | 6 层 DistilBERT 模型,大小写保持不变。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 |
distil_bert_base_en_uncased | 66.36M | 6 层 DistilBERT 模型,所有输入均小写。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 |
distil_bert_base_multi | 134.73M | 6 层 DistilBERT 模型,大小写保持不变。在 104 种语言的维基百科上训练。 |
f_net_base_en | 82.86M | 12 层 FNet 模型,大小写保持不变。在 C4 数据集上训练。 |
f_net_large_en | 236.95M | 24 层 FNet 模型,大小写保持不变。在 C4 数据集上训练。 |
roberta_base_en | 124.05M | 12 层 RoBERTa 模型,大小写保持不变。在英文维基百科、BooksCorpus、CommonCrawl 和 OpenWebText 上训练。 |
roberta_large_en | 354.31M | 24 层 RoBERTa 模型,大小写保持不变。在英文维基百科、BooksCorpus、CommonCrawl 和 OpenWebText 上训练。 |
xlm_roberta_base_multi | 277.45M | 12 层 XLM-RoBERTa 模型,大小写保持不变。在 100 种语言的 CommonCrawl 上训练。 |
xlm_roberta_large_multi | 558.84M | 24 层 XLM-RoBERTa 模型,大小写保持不变。在 100 种语言的 CommonCrawl 上训练。 |
compile
方法TextClassifier.compile(optimizer="auto", loss="auto", metrics="auto", **kwargs)
配置 TextClassifier
任务进行训练。
TextClassifier
任务扩展了 keras.Model.compile
的默认编译签名,其中包含 optimizer
、loss
和 metrics
的默认值。要覆盖这些默认值,请在编译期间将任何值传递给这些参数。
参数
"auto"
、优化器名称或 keras.Optimizer
实例。默认为 "auto"
,它使用给定模型和任务的默认优化器。有关可能的 optimizer
值的更多信息,请参阅 keras.Model.compile
和 keras.optimizers
。"auto"
、损失名称或 keras.losses.Loss
实例。默认为 "auto"
,其中将为分类任务应用 keras.losses.SparseCategoricalCrossentropy
损失。有关可能的 loss
值的更多信息,请参阅 keras.Model.compile
和 keras.losses
。"auto"
或要在训练和测试期间由模型评估的指标列表。默认为 "auto"
,其中将应用 keras.metrics.SparseCategoricalAccuracy
来跟踪模型在训练期间的准确性。有关可能的 metrics
值的更多信息,请参阅 keras.Model.compile
和 keras.metrics
。keras.Model.compile
。save_to_preset
方法TextClassifier.save_to_preset(preset_dir, max_shard_size=10)
将任务保存到预设目录。
参数
int
或 float
。每个分片文件的最大大小(以 GB 为单位)。如果为 None
,则不进行分片。默认为 10
。preprocessor
属性keras_hub.models.TextClassifier.preprocessor
用于预处理输入的 keras_hub.models.Preprocessor
层。
backbone
属性keras_hub.models.TextClassifier.backbone
一个具有核心架构的 keras_hub.models.Backbone
模型。