KerasHub 包含流行模型架构的端到端实现。这些模型可以通过两种方式创建
from_preset()
构造函数,它使用预训练配置、词汇表和(可选)权重实例化一个对象。下面,我们列出了库中可用的所有预设。有关更详细的使用方法,请浏览特定类的文档字符串。有关我们 API 的深入介绍,请参阅 入门指南。
以下预设名称对应于预训练模型的配置和权重。任何任务、预处理器、骨干网络或分词器 from_preset()
都可以用来从保存的预设中创建模型。
backbone = keras_hub.models.Backbone.from_preset("bert_base_en")
tokenizer = keras_hub.models.Tokenizer.from_preset("bert_base_en")
classifier = keras_hub.models.TextClassifier.from_preset("bert_base_en", num_classes=2)
preprocessor = keras_hub.models.TextClassifierPreprocessor.from_preset("bert_base_en")
预设名称 | 模型 | 参数 | 描述 |
---|---|---|---|
albert_base_en_uncased | ALBERT | 11.68M | 12 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
albert_large_en_uncased | ALBERT | 17.68M | 24 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
albert_extra_large_en_uncased | ALBERT | 58.72M | 24 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
albert_extra_extra_large_en_uncased | ALBERT | 222.60M | 12 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bart_base_en | BART | 139.42M | 6 层 BART 模型,保持大小写。在 BookCorpus、英文维基百科和 CommonCrawl 上训练。 模型卡 |
bart_large_en | BART | 406.29M | 12 层 BART 模型,保持大小写。在 BookCorpus、英文维基百科和 CommonCrawl 上训练。 模型卡 |
bart_large_en_cnn | BART | 406.29M | bart_large_en 骨干模型,在 CNN+DM 摘要数据集上微调。 模型卡 |
bert_tiny_en_uncased | BERT | 4.39M | 2 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_small_en_uncased | BERT | 28.76M | 4 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_medium_en_uncased | BERT | 41.37M | 8 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_base_en_uncased | BERT | 109.48M | 12 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_base_en | BERT | 108.31M | 12 层 BERT 模型,保持大小写。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_base_zh | BERT | 102.27M | 12 层 BERT 模型。在中文维基百科上训练。 模型卡 |
bert_base_multi | BERT | 177.85M | 12 层 BERT 模型,保持大小写。在 104 种语言的维基百科上训练 模型卡 |
bert_large_en_uncased | BERT | 335.14M | 24 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_large_en | BERT | 333.58M | 24 层 BERT 模型,保持大小写。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
bert_tiny_en_uncased_sst2 | BERT | 4.39M | bert_tiny_en_uncased 骨干模型,在 SST-2 情感分析数据集上微调。 模型卡 |
bloom_560m_multi | BLOOM | 559.21M | 24 层 Bloom 模型,隐藏维度为 1024。在 45 种自然语言和 12 种编程语言上训练。 模型卡 |
bloom_1.1b_multi | BLOOM | 1.07B | 24 层 Bloom 模型,隐藏维度为 1536。在 45 种自然语言和 12 种编程语言上训练。 模型卡 |
bloom_1.7b_multi | BLOOM | 1.72B | 24 层 Bloom 模型,隐藏维度为 2048。在 45 种自然语言和 12 种编程语言上训练。 模型卡 |
bloom_3b_multi | BLOOM | 3.00B | 30 层 Bloom 模型,隐藏维度为 2560。在 45 种自然语言和 12 种编程语言上训练。 模型卡 |
bloomz_560m_multi | BLOOMZ | 559.21M | 24 层 Bloom 模型,隐藏维度为 1024。在跨语言任务混合 (xP3) 数据集上微调。 模型卡 |
bloomz_1.1b_multi | BLOOMZ | 1.07B | 24 层 Bloom 模型,隐藏维度为 1536。在跨语言任务混合 (xP3) 数据集上微调。 模型卡 |
bloomz_1.7b_multi | BLOOMZ | 1.72B | 24 层 Bloom 模型,隐藏维度为 2048。在跨语言任务混合 (xP3) 数据集上微调。 模型卡 |
bloomz_3b_multi | BLOOMZ | 3.00B | 30 层 Bloom 模型,隐藏维度为 2560。在跨语言任务混合 (xP3) 数据集上微调。 模型卡 |
deberta_v3_extra_small_en | DeBERTaV3 | 70.68M | 12 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡 |
deberta_v3_small_en | DeBERTaV3 | 141.30M | 6 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡 |
deberta_v3_base_en | DeBERTaV3 | 183.83M | 12 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡 |
deberta_v3_large_en | DeBERTaV3 | 434.01M | 24 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡 |
deberta_v3_base_multi | DeBERTaV3 | 278.22M | 12 层 DeBERTaV3 模型,保持大小写。在 2.5TB 多语言 CC100 数据集上训练。 模型卡 |
deeplabv3_plus_resnet50_pascalvoc | DeepLabV3 | 39.19M | DeepLabV3+ 模型,使用 ResNet50 作为图像编码器,并在语义边界数据集 (SBD) 增强的 Pascal VOC 数据集上训练,该数据集的类别准确率为 90.01,平均 IoU 为 0.63。 模型卡 |
densenet_121_imagenet | DenseNet | 7.04M | 121 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡 |
densenet_169_imagenet | DenseNet | 12.64M | 169 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡 |
densenet_201_imagenet | DenseNet | 18.32M | 201 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡 |
distil_bert_base_en_uncased | DistilBERT | 66.36M | 6 层 DistilBERT 模型,所有输入都小写化。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 模型卡 |
distil_bert_base_en | DistilBERT | 65.19M | 6 层 DistilBERT 模型,保持大小写。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 模型卡 |
distil_bert_base_multi | DistilBERT | 134.73M | 6 层 DistilBERT 模型,保持大小写。在 104 种语言的维基百科上训练 模型卡 |
electra_small_discriminator_uncased_en | ELECTRA | 13.55M | 12 层小型 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
electra_small_generator_uncased_en | ELECTRA | 13.55M | 12 层小型 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
electra_base_discriminator_uncased_en | ELECTRA | 109.48M | 12 层基础 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
electra_base_generator_uncased_en | ELECTRA | 33.58M | 12 层基础 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
electra_large_discriminator_uncased_en | ELECTRA | 335.14M | 24 层大型 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
electra_large_generator_uncased_en | ELECTRA | 51.07M | 24 层大型 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡 |
f_net_base_en | FNet | 82.86M | 12 层 FNet 模型,保持大小写。在 C4 数据集上训练。 模型卡 |
f_net_large_en | FNet | 236.95M | 24 层 FNet 模型,保持大小写。在 C4 数据集上训练。 模型卡 |
falcon_refinedweb_1b_en | Falcon | 1.31B | 24 层 Falcon 模型(具有 10 亿个参数的 Falcon),在 3500 亿个 RefinedWeb 数据集令牌上训练。 模型卡 |
mit_b0_ade20k_512 | MiT | 3.32M | 具有 8 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b1_ade20k_512 | MiT | 13.16M | 具有 8 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b2_ade20k_512 | MiT | 24.20M | 具有 16 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b3_ade20k_512 | MiT | 44.08M | 具有 28 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b4_ade20k_512 | MiT | 60.85M | 具有 41 个 Transformer 块的 MiT (MixTransformer) 模型。 |
mit_b5_ade20k_640 | MiT | 81.45M | 具有 52 个 Transformer 块的 MiT (MixTransformer) 模型。 |
mit_b0_cityscapes_1024 | MiT | 3.32M | 具有 8 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b1_cityscapes_1024 | MiT | 13.16M | 具有 8 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b2_cityscapes_1024 | MiT | 24.20M | 具有 16 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b3_cityscapes_1024 | MiT | 44.08M | 具有 28 个变换器块的 MiT (MixTransformer) 模型。 |
mit_b4_cityscapes_1024 | MiT | 60.85M | 具有 41 个 Transformer 块的 MiT (MixTransformer) 模型。 |
mit_b5_cityscapes_1024 | MiT | 81.45M | 具有 52 个 Transformer 块的 MiT (MixTransformer) 模型。 |
resnet_18_imagenet | ResNet | 11.19M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 18 层 ResNet 模型。 模型卡 |
resnet_50_imagenet | ResNet | 23.56M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 50 层 ResNet 模型。 模型卡 |
resnet_101_imagenet | ResNet | 42.61M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 101 层 ResNet 模型。 模型卡 |
resnet_152_imagenet | ResNet | 58.30M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 152 层 ResNet 模型。 模型卡 |
resnet_v2_50_imagenet | ResNet | 23.56M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 50 层 ResNetV2 模型。 模型卡 |
resnet_v2_101_imagenet | ResNet | 42.61M | 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 101 层 ResNetV2 模型。 模型卡 |
gemma_2b_en | Gemma | 2.51B | 20 亿参数,18 层,基础 Gemma 模型。 模型卡 |
gemma_instruct_2b_en | Gemma | 2.51B | 20 亿参数,18 层,指令微调的 Gemma 模型。 模型卡 |
gemma_1.1_instruct_2b_en | Gemma | 2.51B | 20 亿参数,18 层,指令微调的 Gemma 模型。1.1 更新提高了模型质量。 模型卡 |
code_gemma_1.1_2b_en | Gemma | 2.51B | 20 亿参数,18 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。1.1 更新提高了模型质量。 模型卡 |
code_gemma_2b_en | Gemma | 2.51B | 20 亿参数,18 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。 模型卡 |
gemma_7b_en | Gemma | 8.54B | 70 亿参数,28 层,基础 Gemma 模型。 模型卡 |
gemma_instruct_7b_en | Gemma | 8.54B | 70 亿参数,28 层,指令微调的 Gemma 模型。 模型卡 |
gemma_1.1_instruct_7b_en | Gemma | 8.54B | 70 亿参数,28 层,指令微调的 Gemma 模型。1.1 更新提高了模型质量。 模型卡 |
code_gemma_7b_en | Gemma | 8.54B | 70 亿参数,28 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。 模型卡 |
code_gemma_instruct_7b_en | Gemma | 8.54B | 70 亿参数,28 层,指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行了训练。 模型卡 |
code_gemma_1.1_instruct_7b_en | Gemma | 8.54B | 70 亿参数,28 层,指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行了训练。1.1 更新提高了模型质量。 模型卡 |
gemma2_2b_en | Gemma | 2.61B | 20 亿参数,26 层,基础 Gemma 模型。 模型卡 |
gemma2_instruct_2b_en | Gemma | 2.61B | 20 亿参数,26 层,指令微调的 Gemma 模型。 模型卡 |
gemma2_9b_en | Gemma | 9.24B | 90 亿参数,42 层,基础 Gemma 模型。 模型卡 |
gemma2_instruct_9b_en | Gemma | 9.24B | 90 亿参数,42 层,指令微调的 Gemma 模型。 模型卡 |
gemma2_27b_en | Gemma | 27.23B | 270 亿参数,42 层,基础 Gemma 模型。 模型卡 |
gemma2_instruct_27b_en | Gemma | 27.23B | 270 亿参数,42 层,指令微调的 Gemma 模型。 模型卡 |
shieldgemma_2b_en | Gemma | 2.61B | 20 亿参数,26 层,ShieldGemma 模型。 模型卡 |
shieldgemma_9b_en | Gemma | 9.24B | 90 亿参数,42 层,ShieldGemma 模型。 模型卡 |
shieldgemma_27b_en | Gemma | 27.23B | 270 亿参数,42 层,ShieldGemma 模型。 模型卡 |
gpt2_base_en | GPT-2 | 124.44M | 12 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡 |
gpt2_medium_en | GPT-2 | 354.82M | 24 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡 |
gpt2_large_en | GPT-2 | 774.03M | 36 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡 |
gpt2_extra_large_en | GPT-2 | 1.56B | 48 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡 |
gpt2_base_en_cnn_dailymail | GPT-2 | 124.44M | 12 层 GPT-2 模型,保持大小写。在 CNN/DailyMail 摘要数据集上微调。 |
llama3_8b_en | LLaMA 3 | 8.03B | 80 亿参数,32 层,基础 LLaMA 3 模型。 模型卡 |
llama3_8b_en_int8 | LLaMA 3 | 8.03B | 80 亿参数,32 层,基础 LLaMA 3 模型,激活和权重量化为 int8。 模型卡 |
llama3_instruct_8b_en | LLaMA 3 | 8.03B | 80 亿参数,32 层,指令微调的 LLaMA 3 模型。 模型卡 |
llama3_instruct_8b_en_int8 | LLaMA 3 | 8.03B | 80 亿参数,32 层,指令微调的 LLaMA 3 模型,激活和权重量化为 int8。 模型卡 |
llama2_7b_en | LLaMA 2 | 6.74B | 70 亿参数,32 层,基础 LLaMA 2 模型。 模型卡 |
llama2_7b_en_int8 | LLaMA 2 | 6.74B | 70 亿参数,32 层,基础 LLaMA 2 模型,激活和权重量化为 int8。 模型卡 |
llama2_instruct_7b_en | LLaMA 2 | 6.74B | 70 亿参数,32 层,指令微调的 LLaMA 2 模型。 模型卡 |
llama2_instruct_7b_en_int8 | LLaMA 2 | 6.74B | 70 亿参数,32 层,指令微调的 LLaMA 2 模型,激活和权重量化为 int8。 模型卡 |
vicuna_1.5_7b_en | Vicuna | 6.74B | 70 亿参数,32 层,指令微调的 Vicuna v1.5 模型。 模型卡 |
mistral_7b_en | Mistral | 7.24B | Mistral 7B 基础模型 模型卡 |
mistral_instruct_7b_en | Mistral | 7.24B | Mistral 7B 指令模型 模型卡 |
mistral_0.2_instruct_7b_en | Mistral | 7.24B | Mistral 7B 指令版本 0.2 模型 模型卡 |
opt_125m_en | OPT | 125.24M | 12 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡 |
opt_1.3b_en | OPT | 1.32B | 24 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡 |
opt_2.7b_en | OPT | 2.70B | 32 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡 |
opt_6.7b_en | OPT | 6.70B | 32 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡 |
pali_gemma_3b_mix_224 | PaliGemma | 2.92B | 图像大小 224,混合微调,文本序列长度为 256 模型卡 |
pali_gemma_3b_mix_448 | PaliGemma | 2.92B | 图像大小 448,混合微调,文本序列长度为 512 模型卡 |
pali_gemma_3b_224 | PaliGemma | 2.92B | 图像大小 224,预训练,文本序列长度为 128 模型卡 |
pali_gemma_3b_448 | PaliGemma | 2.92B | 图像大小 448,预训练,文本序列长度为 512 模型卡 |
pali_gemma_3b_896 | PaliGemma | 2.93B | 图像大小 896,预训练,文本序列长度为 512 模型卡 |
phi3_mini_4k_instruct_en | Phi-3 | 3.82B | 38 亿参数,32 层,4k 上下文长度,Phi-3 模型。该模型使用 Phi-3 数据集进行训练。该数据集包括合成数据和过滤后的公开可用网站数据,重点关注高质量和推理密集型属性。 模型卡 |
phi3_mini_128k_instruct_en | Phi-3 | 3.82B | 38 亿参数,32 层,128k 上下文长度,Phi-3 模型。该模型使用 Phi-3 数据集进行训练。该数据集包括合成数据和过滤后的公开可用网站数据,重点关注高质量和推理密集型属性。 模型卡 |
roberta_base_en | RoBERTa | 124.05M | 12 层 RoBERTa 模型,保持大小写。在英文维基百科、BooksCorpus、CommonCraw 和 OpenWebText 上训练。 模型卡 |
roberta_large_en | RoBERTa | 354.31M | 24 层 RoBERTa 模型,保持大小写。在英文维基百科、BooksCorpus、CommonCraw 和 OpenWebText 上训练。 模型卡 |
xlm_roberta_base_multi | XLM-RoBERTa | 277.45M | 12 层 XLM-RoBERTa 模型,保持大小写。在 100 种语言的 CommonCrawl 上训练。 模型卡 |
xlm_roberta_large_multi | XLM-RoBERTa | 558.84M | 24 层 XLM-RoBERTa 模型,保持大小写。在 100 种语言的 CommonCrawl 上训练。 模型卡 |
sam_base_sa1b | SAMImageSegmenter | 93.74M | 在 SA1B 数据集上训练的基础 SAM 模型。 模型卡 |
sam_large_sa1b | SAMImageSegmenter | 641.09M | 在 SA1B 数据集上训练的大型 SAM 模型。 模型卡 |
sam_huge_sa1b | SAMImageSegmenter | 312.34M | 在 SA1B 数据集上训练的巨型 SAM 模型。 模型卡 |
stable_diffusion_3_medium | StableDiffusion3 | 2.99B | 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。 模型卡 |
t5_small_multi | T5 | 0 | 8 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
t5_base_multi | T5 | 0 | 12 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
t5_large_multi | T5 | 0 | 24 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
flan_small_multi | T5 | 0 | 8 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
flan_base_multi | T5 | 0 | 12 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
flan_large_multi | T5 | 0 | 24 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡 |
whisper_tiny_en | Whisper | 37.18M | 4 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡 |
whisper_base_en | Whisper | 124.44M | 6 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡 |
whisper_small_en | Whisper | 241.73M | 12 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡 |
whisper_medium_en | Whisper | 763.86M | 24 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡 |
whisper_tiny_multi | Whisper | 37.76M | 4 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片 |
whisper_base_multi | Whisper | 72.59M | 6 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片 |
whisper_small_multi | Whisper | 241.73M | 12 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片 |
whisper_medium_multi | Whisper | 763.86M | 24 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片 |
whisper_large_multi | Whisper | 1.54B | 32 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片 |
whisper_large_multi_v2 | Whisper | 1.54B | 32 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据训练 2.5 个 epoch。对 whisper_large_multi 的改进。 模型卡片 |
注意:提供的链接将指向模型卡片或官方 README,如果作者未提供模型卡片。