KerasHub：预训练模型
入门指南 开发者指南 API 文档 预训练模型列表
► KerasHub：预训练模型 / KerasHub 预训练模型

KerasHub 预训练模型

下面，我们列出了 KerasHub 库中所有可用的预设。要了解更详细的用法，请查阅特定类的文档字符串。要深入了解我们的 API，请参阅入门指南。

以下预设名称对应于预训练模型的配置和权重。任何任务、预处理器、主干网络或分词器都可以使用 from_preset() 方法从保存的预设创建模型。

backbone = keras_hub.models.Backbone.from_preset("bert_base_en")
tokenizer = keras_hub.models.Tokenizer.from_preset("bert_base_en")
classifier = keras_hub.models.TextClassifier.from_preset("bert_base_en", num_classes=2)
preprocessor = keras_hub.models.TextClassifierPreprocessor.from_preset("bert_base_en")
预设 模型 API 参数 描述
albert_base_en_uncased Albert 11.68M 12层 ALBERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
albert_large_en_uncased Albert 17.68M 24层 ALBERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
albert_extra_large_en_uncased Albert 58.72M 24层 ALBERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
albert_extra_extra_large_en_uncased Albert 222.60M 12层 ALBERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bart_base_en Bart 139.42M 6层 BART 模型，保留大小写。在 BookCorpus、英文维基百科和 CommonCrawl 数据集上训练。
bart_large_en Bart 406.29M 12层 BART 模型，保留大小写。在 BookCorpus、英文维基百科和 CommonCrawl 数据集上训练。
bart_large_en_cnn Bart 406.29M 在 CNN+DM 摘要数据集上微调的 bart_large_en 主干模型。
basnet_duts BASNet 108.89M 带有34层 ResNet 主干网络的 BASNet 模型，在 DUTS 图像数据集上以 288x288 分辨率预训练。模型训练由 Hamid Ali (https://github.com/hamidriasat/BASNet) 完成。
bert_tiny_en_uncased Bert 4.39M 2层 BERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_tiny_en_uncased_sst2 Bert 4.39M 在 SST-2 情感分析数据集上微调的 bert_tiny_en_uncased 主干模型。
bert_small_en_uncased Bert 28.76M 4层 BERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_medium_en_uncased Bert 41.37M 8层 BERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_base_zh Bert 102.27M 12层 BERT 模型。在中文维基百科上训练。
bert_base_en Bert 108.31M 12层 BERT 模型，保留大小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_base_en_uncased Bert 109.48M 12层 BERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_base_multi Bert 177.85M 12层 BERT 模型，保留大小写。在104种语言的维基百科上训练。
bert_large_en Bert 333.58M 24层 BERT 模型，保留大小写。在英文维基百科 + BooksCorpus 数据集上训练。
bert_large_en_uncased Bert 335.14M 24层 BERT 模型，所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
bloom_560m_multi Bloom 559.21M 隐藏层维度为 1024 的 24层 Bloom 模型。在45种自然语言和12种编程语言上训练。
bloomz_560m_multi Bloom 559.21M 隐藏层维度为 1024 的 24层 Bloom 模型。在跨语言任务混合 (xP3) 数据集上微调。
bloom_1.1b_multi Bloom 1.07B 隐藏层维度为 1536 的 24层 Bloom 模型。在45种自然语言和12种编程语言上训练。
bloomz_1.1b_multi Bloom 1.07B 隐藏层维度为 1536 的 24层 Bloom 模型。在跨语言任务混合 (xP3) 数据集上微调。
bloom_1.7b_multi Bloom 1.72B 隐藏层维度为 2048 的 24层 Bloom 模型。在45种自然语言和12种编程语言上训练。
bloomz_1.7b_multi Bloom 1.72B 隐藏层维度为 2048 的 24层 Bloom 模型。在跨语言任务混合 (xP3) 数据集上微调。
bloom_3b_multi Bloom 3.00B 隐藏层维度为 2560 的 30层 Bloom 模型。在45种自然语言和12种编程语言上训练。
bloomz_3b_multi Bloom 3.00B 隐藏层维度为 2560 的 30层 Bloom 模型。在跨语言任务混合 (xP3) 数据集上微调。
clip_vit_base_patch16 CLIP 149.62M 1.5亿参数，视觉部分12层，文本部分12层，patch 大小为16的 CLIP 模型。
clip_vit_base_patch32 CLIP 151.28M 1.51亿参数，视觉部分12层，文本部分12层，patch 大小为32的 CLIP 模型。
clip_vit_b_32_laion2b_s34b_b79k CLIP 151.28M 1.51亿参数，视觉部分12层，文本部分12层，patch 大小为32的 Open CLIP 模型。
clip_vit_large_patch14 CLIP 427.62M 4.28亿参数，视觉部分24层，文本部分12层，patch 大小为14的 CLIP 模型。
clip_vit_large_patch14_336 CLIP 427.94M 4.28亿参数，视觉部分24层，文本部分12层，patch 大小为14，图像大小为336的 CLIP 模型。
clip_vit_h_14_laion2b_s32b_b79k CLIP 986.11M 9.86亿参数，视觉部分32层，文本部分24层，patch 大小为14的 Open CLIP 模型。
clip_vit_g_14_laion2b_s12b_b42k CLIP 1.37B 14亿参数，视觉部分40层，文本部分24层，patch 大小为14的 Open CLIP 模型。
clip_vit_bigg_14_laion2b_39b_b160k CLIP 2.54B 25亿参数，视觉部分48层，文本部分32层，patch 大小为14的 Open CLIP 模型。
csp_darknet_53_ra_imagenet CSPNet 26.65M 一种 CSP-DarkNet (Cross-Stage-Partial) 图像分类模型，在随机增强的 ImageNet 1k 数据集上以 224x224 分辨率预训练。
deberta_v3_extra_small_en DebertaV3 70.68M 12层 DeBERTaV3 模型，保留大小写。在英文维基百科、BookCorpus 和 OpenWebText 数据集上训练。
deberta_v3_small_en DebertaV3 141.30M 6层 DeBERTaV3 模型，保留大小写。在英文维基百科、BookCorpus 和 OpenWebText 数据集上训练。
deberta_v3_base_en DebertaV3 183.83M 12层 DeBERTaV3 模型，保留大小写。在英文维基百科、BookCorpus 和 OpenWebText 数据集上训练。
deberta_v3_base_multi DebertaV3 278.22M 12层 DeBERTaV3 模型，保留大小写。在 2.5TB 多语言 CC100 数据集上训练。
deberta_v3_large_en DebertaV3 434.01M 24层 DeBERTaV3 模型，保留大小写。在英文维基百科、BookCorpus 和 OpenWebText 数据集上训练。
deeplab_v3_plus_resnet50_pascalvoc DeepLabV3 39.19M 使用 ResNet50 作为图像编码器，并在由 Semantic Boundaries Dataset (SBD) 增强的 Pascal VOC 数据集上训练的 DeepLabV3+ 模型，其类别准确率为 90.01，平均 IoU 为 0.63。
densenet_121_imagenet DenseNet 7.04M 121层 DenseNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
densenet_169_imagenet DenseNet 12.64M 169层 DenseNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
densenet_201_imagenet DenseNet 18.32M 201层 DenseNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
distil_bert_base_en DistilBert 65.19M 6层 DistilBERT 模型，保留大小写。使用 BERT 作为教师模型，在英文维基百科 + BooksCorpus 数据集上训练。
distil_bert_base_en_uncased DistilBert 66.36M 6层 DistilBERT 模型，所有输入都已小写。使用 BERT 作为教师模型，在英文维基百科 + BooksCorpus 数据集上训练。
distil_bert_base_multi DistilBert 134.73M 6层 DistilBERT 模型，保留大小写。在104种语言的维基百科上训练。
efficientnet_lite0_ra_imagenet EfficientNet 4.65M 在 ImageNet 1k 数据集上使用 RandAugment 方案微调的 EfficientNet-Lite 模型。
efficientnet_b0_ra_imagenet EfficientNet 5.29M 在 ImageNet 1k 数据集上使用 RandAugment 方案预训练的 EfficientNet B0 模型。
efficientnet_b0_ra4_e3600_r224_imagenet EfficientNet 5.29M 由 Ross Wightman 在 ImageNet 1k 数据集上预训练的 EfficientNet B0 模型。使用 timm 脚本训练，超参数灵感来源于 MobileNet-V4 small，并混合了 timm 中的常用超参数和 'ResNet Strikes Back'。
efficientnet_es_ra_imagenet EfficientNet 5.44M 在 ImageNet 1k 数据集上使用 RandAugment 方案训练的 EfficientNet-EdgeTPU Small 模型。
efficientnet_em_ra2_imagenet EfficientNet 6.90M 在 ImageNet 1k 数据集上使用 RandAugment2 方案训练的 EfficientNet-EdgeTPU Medium 模型。
efficientnet_b1_ft_imagenet EfficientNet 7.79M 在 ImageNet 1k 数据集上微调的 EfficientNet B1 模型。
efficientnet_b1_ra4_e3600_r240_imagenet EfficientNet 7.79M 由 Ross Wightman 在 ImageNet 1k 数据集上预训练的 EfficientNet B1 模型。使用 timm 脚本训练，超参数灵感来源于 MobileNet-V4 small，并混合了 timm 中的常用超参数和 'ResNet Strikes Back'。
efficientnet_b2_ra_imagenet EfficientNet 9.11M 在 ImageNet 1k 数据集上使用 RandAugment 方案预训练的 EfficientNet B2 模型。
efficientnet_el_ra_imagenet EfficientNet 10.59M 在 ImageNet 1k 数据集上使用 RandAugment 方案训练的 EfficientNet-EdgeTPU Large 模型。
efficientnet_b3_ra2_imagenet EfficientNet 12.23M 在 ImageNet 1k 数据集上使用 RandAugment2 方案预训练的 EfficientNet B3 模型。
efficientnet2_rw_t_ra2_imagenet EfficientNet 13.65M 在 ImageNet 1k 数据集上使用 RandAugment2 方案训练的 EfficientNet-v2 Tiny 模型。
efficientnet_b4_ra2_imagenet EfficientNet 19.34M 在 ImageNet 1k 数据集上使用 RandAugment2 方案预训练的 EfficientNet B4 模型。
efficientnet2_rw_s_ra2_imagenet EfficientNet 23.94M 在 ImageNet 1k 数据集上使用 RandAugment2 方案训练的 EfficientNet-v2 Small 模型。
efficientnet_b5_sw_imagenet EfficientNet 30.39M 由 Ross Wightman 在 ImageNet 12k 数据集上预训练的 EfficientNet B5 模型。基于 Swin Transformer 训练/预训练方案，并进行了修改（与 DeiT 和 ConvNeXt 方案相关）。
efficientnet_b5_sw_ft_imagenet EfficientNet 30.39M 由 Ross Wightman 在 ImageNet 12k 数据集上预训练并在 ImageNet-1k 上微调的 EfficientNet B5 模型。基于 Swin Transformer 训练/预训练方案，并进行了修改（与 DeiT 和 ConvNeXt 方案相关）。
efficientnet2_rw_m_agc_imagenet EfficientNet 53.24M 在 ImageNet 1k 数据集上使用自适应梯度裁剪训练的 EfficientNet-v2 Medium 模型。
electra_small_discriminator_uncased_en Electra 13.55M 12层 small ELECTRA 判别器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
electra_small_generator_uncased_en Electra 13.55M 12层 small ELECTRA 生成器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
electra_base_generator_uncased_en Electra 33.58M 12层 base ELECTRA 生成器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
electra_large_generator_uncased_en Electra 51.07M 24层 large ELECTRA 生成器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
electra_base_discriminator_uncased_en Electra 109.48M 12层 base ELECTRA 判别器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
electra_large_discriminator_uncased_en Electra 335.14M 24层 large ELECTRA 判别器模型。所有输入都已小写。在英文维基百科 + BooksCorpus 数据集上训练。
f_net_base_en FNet 82.86M 12层 FNet 模型，保留大小写。在 C4 数据集上训练。
f_net_large_en FNet 236.95M 24层 FNet 模型，保留大小写。在 C4 数据集上训练。
falcon_refinedweb_1b_en Falcon 1.31B 24层 Falcon 模型（10亿参数的 Falcon），在 RefinedWeb 数据集的 3500亿 token 上训练。
gemma_2b_en Gemma 2.51B 20亿参数，18层，基础 Gemma 模型。
gemma_instruct_2b_en Gemma 2.51B 20亿参数，18层，指令微调的 Gemma 模型。
gemma_1.1_instruct_2b_en Gemma 2.51B 20亿参数，18层，指令微调的 Gemma 模型。1.1 版本更新提升了模型质量。
code_gemma_1.1_2b_en Gemma 2.51B 20亿参数，18层，CodeGemma 模型。该模型已针对代码补全的中间填充 (FIM) 任务进行训练。1.1 版本更新提升了模型质量。
code_gemma_2b_en Gemma 2.51B 20亿参数，18层，CodeGemma 模型。该模型已针对代码补全的中间填充 (FIM) 任务进行训练。
gemma2_2b_en Gemma 2.61B 20亿参数，26层，基础 Gemma 模型。
gemma2_instruct_2b_en Gemma 2.61B 20亿参数，26层，指令微调的 Gemma 模型。
shieldgemma_2b_en Gemma 2.61B 20亿参数，26层，ShieldGemma 模型。
gemma_7b_en Gemma 8.54B 70亿参数，28层，基础 Gemma 模型。
gemma_instruct_7b_en Gemma 8.54B 70亿参数，28层，指令微调的 Gemma 模型。
gemma_1.1_instruct_7b_en Gemma 8.54B 70亿参数，28层，指令微调的 Gemma 模型。1.1 版本更新提升了模型质量。
code_gemma_7b_en Gemma 8.54B 70亿参数，28层，CodeGemma 模型。该模型已针对代码补全的中间填充 (FIM) 任务进行训练。
code_gemma_instruct_7b_en Gemma 8.54B 70亿参数，28层，指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行训练。
code_gemma_1.1_instruct_7b_en Gemma 8.54B 70亿参数，28层，指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行训练。1.1 版本更新提升了模型质量。
gemma2_9b_en Gemma 9.24B 90亿参数，42层，基础 Gemma 模型。
gemma2_instruct_9b_en Gemma 9.24B 90亿参数，42层，指令微调的 Gemma 模型。
shieldgemma_9b_en Gemma 9.24B 90亿参数，42层，ShieldGemma 模型。
gemma2_27b_en Gemma 27.23B 270亿参数，42层，基础 Gemma 模型。
gemma2_instruct_27b_en Gemma 27.23B 270亿参数，42层，指令微调的 Gemma 模型。
shieldgemma_27b_en Gemma 27.23B 270亿参数，42层，ShieldGemma 模型。
gemma3_1b Gemma3 999.89M 10亿参数，26层，仅文本预训练的 Gemma3 模型。
gemma3_instruct_1b Gemma3 999.89M 10亿参数，26层，仅文本指令微调的 Gemma3 模型。
gemma3_4b_text Gemma3 3.88B 40亿参数，34层，仅文本预训练的 Gemma3 模型。
gemma3_instruct_4b_text Gemma3 3.88B 40亿参数，34层，仅文本指令微调的 Gemma3 模型。
gemma3_4b Gemma3 4.30B 40亿参数，34层，视觉+文本预训练的 Gemma3 模型。
gemma3_instruct_4b Gemma3 4.30B 40亿参数，34层，视觉+文本指令微调的 Gemma3 模型。
gemma3_12b_text Gemma3 11.77B 120亿参数，48层，仅文本预训练的 Gemma3 模型。
gemma3_instruct_12b_text Gemma3 11.77B 120亿参数，48层，仅文本指令微调的 Gemma3 模型。
gemma3_12b Gemma3 12.19B 120亿参数，48层，视觉+文本预训练的 Gemma3 模型。
gemma3_instruct_12b Gemma3 12.19B 120亿参数，48层，视觉+文本指令微调的 Gemma3 模型。
gemma3_27b_text Gemma3 27.01B 270亿参数，62层，仅文本预训练的 Gemma3 模型。
gemma3_instruct_27b_text Gemma3 27.01B 270亿参数，62层，仅文本指令微调的 Gemma3 模型。
gemma3_27b Gemma3 27.43B 270亿参数，62层，视觉+文本预训练的 Gemma3 模型。
gemma3_instruct_27b Gemma3 27.43B 270亿参数，62层，视觉+文本指令微调的 Gemma3 模型。
gpt2_base_en GPT2 124.44M 12层 GPT-2 模型，保留大小写。在 WebText 数据集上训练。
gpt2_base_en_cnn_dailymail GPT2 124.44M 12层 GPT-2 模型，保留大小写。在 CNN/DailyMail 摘要数据集上微调。
gpt2_medium_en GPT2 354.82M 24层 GPT-2 模型，保留大小写。在 WebText 数据集上训练。
gpt2_large_en GPT2 774.03M 36层 GPT-2 模型，保留大小写。在 WebText 数据集上训练。
gpt2_extra_large_en GPT2 1.56B 48层 GPT-2 模型，保留大小写。在 WebText 数据集上训练。
llama2_7b_en Llama 6.74B 70亿参数，32层，基础 LLaMA 2 模型。
llama2_instruct_7b_en Llama 6.74B 70亿参数，32层，指令微调的 LLaMA 2 模型。
vicuna_1.5_7b_en Llama 6.74B 70亿参数，32层，指令微调的 Vicuna v1.5 模型。
llama2_7b_en_int8 Llama 6.74B 70亿参数，32层，激活和权重量化为 int8 的基础 LLaMA 2 模型。
llama2_instruct_7b_en_int8 Llama 6.74B 70亿参数，32层，激活和权重量化为 int8 的指令微调的 LLaMA 2 模型。
llama3_8b_en Llama3 8.03B 80亿参数，32层，基础 LLaMA 3 模型。
llama3_instruct_8b_en Llama3 8.03B 80亿参数，32层，指令微调的 LLaMA 3 模型。
llama3_8b_en_int8 Llama3 8.03B 80亿参数，32层，激活和权重量化为 int8 的基础 LLaMA 3 模型。
llama3_instruct_8b_en_int8 Llama3 8.03B 80亿参数，32层，激活和权重量化为 int8 的指令微调的 LLaMA 3 模型。
mistral_7b_en Mistral 7.24B Mistral 7B 基础模型
mistral_instruct_7b_en Mistral 7.24B Mistral 7B 指令模型
mistral_0.2_instruct_7b_en Mistral 7.24B Mistral 7B 指令模型 版本 0.2
mit_b0_ade20k_512 MiT 3.32M 带有8个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b0_cityscapes_1024 MiT 3.32M 带有8个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b1_ade20k_512 MiT 13.16M 带有8个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b1_cityscapes_1024 MiT 13.16M 带有8个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b2_ade20k_512 MiT 24.20M 带有16个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b2_cityscapes_1024 MiT 24.20M 带有16个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b3_ade20k_512 MiT 44.08M 带有28个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b3_cityscapes_1024 MiT 44.08M 带有28个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b4_ade20k_512 MiT 60.85M 带有41个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b4_cityscapes_1024 MiT 60.85M 带有41个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b5_ade20k_640 MiT 81.45M 带有52个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b5_cityscapes_1024 MiT 81.45M 带有52个 Transformer 块的 MiT (MixTransformer) 模型。
mobilenet_v3_small_050_imagenet - 278.78K Small Mobilenet V3 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。通道乘数减半。
mobilenet_v3_small_100_imagenet - 939.12K Small Mobilenet V3 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。具有基线通道乘数。
mobilenet_v3_large_100_imagenet - 3.00M Large Mobilenet V3 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。具有基线通道乘数。
mobilenet_v3_large_100_imagenet_21k - 3.00M Large Mobilenet V3 模型，在 ImageNet 21k 数据集上以 224x224 分辨率预训练。具有基线通道乘数。
opt_125m_en OPT 125.24M 12层 OPT 模型，保留大小写。在 BookCorpus, CommonCrawl, Pile 和 PushShift.io 语料库上训练。
opt_1.3b_en OPT 1.32B 24层 OPT 模型，保留大小写。在 BookCorpus, CommonCrawl, Pile 和 PushShift.io 语料库上训练。
opt_2.7b_en OPT 2.70B 32层 OPT 模型，保留大小写。在 BookCorpus, CommonCrawl, Pile 和 PushShift.io 语料库上训练。
opt_6.7b_en OPT 6.70B 32层 OPT 模型，保留大小写。在 BookCorpus, CommonCrawl, Pile 和 PushShift.io 语料库上训练。
pali_gemma_3b_mix_224 PaliGemma 2.92B 图像大小 224，混合微调，文本序列长度为 256
pali_gemma_3b_224 PaliGemma 2.92B 图像大小 224，预训练，文本序列长度为 128
pali_gemma_3b_mix_448 PaliGemma 2.92B 图像大小 448，混合微调，文本序列长度为 512
pali_gemma_3b_448 PaliGemma 2.92B 图像大小 448，预训练，文本序列长度为 512
pali_gemma_3b_896 PaliGemma 2.93B 图像大小 896，预训练，文本序列长度为 512
pali_gemma2_mix_3b_224 - 3.03B 30亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_pt_3b_224 - 3.03B 30亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在混合数据集上进行预训练。
pali_gemma_2_ft_docci_3b_448 - 3.03B 30亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在 DOCCI 数据集上进行微调，以改进带有精细细节的描述。
pali_gemma2_mix_3b_448 - 3.03B 30亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_pt_3b_448 - 3.03B 30亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在混合数据集上进行预训练。
pali_gemma2_pt_3b_896 - 3.04B 30亿参数，图像大小 896，视觉编码器为 27层 SigLIP-So400m，语言模型为 26层 Gemma2 2B。该模型已在混合数据集上进行预训练。
pali_gemma2_mix_10b_224 - 9.66B 100亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_pt_10b_224 - 9.66B 100亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在混合数据集上进行预训练。
pali_gemma2_ft_docci_10b_448 - 9.66B 100亿参数，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在 DOCCI 数据集上进行微调，以改进带有精细细节的描述。
pali_gemma2_mix_10b_448 - 9.66B 100亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_pt_10b_448 - 9.66B 100亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在混合数据集上进行预训练。
pali_gemma2_pt_10b_896 - 9.67B 100亿参数，图像大小 896，视觉编码器为 27层 SigLIP-So400m，语言模型为 42层 Gemma2 9B。该模型已在混合数据集上进行预训练。
pali_gemma2_mix_28b_224 - 27.65B 280亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 46层 Gemma2 27B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_mix_28b_448 - 27.65B 280亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 46层 Gemma2 27B。该模型已在各种视觉-语言任务和领域上进行微调。
pali_gemma2_pt_28b_224 - 27.65B 280亿参数，图像大小 224，视觉编码器为 27层 SigLIP-So400m，语言模型为 46层 Gemma2 27B。该模型已在混合数据集上进行预训练。
pali_gemma2_pt_28b_448 - 27.65B 280亿参数，图像大小 448，视觉编码器为 27层 SigLIP-So400m，语言模型为 46层 Gemma2 27B。该模型已在混合数据集上进行预训练。
pali_gemma2_pt_28b_896 - 27.65B 280亿参数，图像大小 896，视觉编码器为 27层 SigLIP-So400m，语言模型为 46层 Gemma2 27B。该模型已在混合数据集上进行预训练。
phi3_mini_4k_instruct_en Phi3 3.82B 38亿参数，32层，4k 上下文长度的 Phi-3 模型。该模型使用 Phi-3 数据集训练。该数据集包含合成数据和过滤后的公开网站数据，强调高质量和推理密集型特性。
phi3_mini_128k_instruct_en Phi3 3.82B 38亿参数，32层，128k 上下文长度的 Phi-3 模型。该模型使用 Phi-3 数据集训练。该数据集包含合成数据和过滤后的公开网站数据，强调高质量和推理密集型特性。
resnet_18_imagenet ResNet 11.19M 18层 ResNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_18_imagenet ResNet 11.72M 18层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_34_imagenet ResNet 21.84M 34层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_50_imagenet ResNet 23.56M 50层 ResNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_v2_50_imagenet ResNet 23.56M 50层 ResNetV2 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_50_imagenet ResNet 25.63M 50层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_50_ssld_imagenet ResNet 25.63M 50层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率并使用知识蒸馏预训练。
resnet_vd_50_ssld_v2_imagenet ResNet 25.63M 50层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率并使用知识蒸馏和 AutoAugment 预训练。
resnet_vd_50_ssld_v2_fix_imagenet ResNet 25.63M 50层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率并使用知识蒸馏、AutoAugment 和对分类头进行额外微调后预训练。
resnet_101_imagenet ResNet 42.61M 101层 ResNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_v2_101_imagenet ResNet 42.61M 101层 ResNetV2 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_101_imagenet ResNet 44.67M 101层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_101_ssld_imagenet ResNet 44.67M 101层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率并使用知识蒸馏预训练。
resnet_152_imagenet ResNet 58.30M 152层 ResNet 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_152_imagenet ResNet 60.36M 152层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
resnet_vd_200_imagenet ResNet 74.93M 200层 ResNetVD 模型（带技巧的 ResNet），在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
retinanet_resnet50_fpn_v2_coco RetinaNet 31.56M 带有 ResNet50 主干网络的 RetinaNet 模型，在 COCO 数据集上以 800x800 分辨率微调，使用从 P5 层创建的 FPN 特征。
retinanet_resnet50_fpn_coco RetinaNet 34.12M 带有 ResNet50 主干网络的 RetinaNet 模型，在 COCO 数据集上以 800x800 分辨率微调。
roberta_base_en Roberta 124.05M 12层 RoBERTa 模型，保留大小写。在英文维基百科、BooksCorpus、CommonCrawl 和 OpenWebText 数据集上训练。
roberta_large_en Roberta 354.31M 24层 RoBERTa 模型，保留大小写。在英文维基百科、BooksCorpus、CommonCrawl 和 OpenWebText 数据集上训练。
sam_base_sa1b Segment Anything Model 93.74M 在 SA1B 数据集上训练的基础 SAM 模型。
sam_huge_sa1b Segment Anything Model 312.34M 在 SA1B 数据集上训练的巨大 SAM 模型。
sam_large_sa1b Segment Anything Model 641.09M 在 SA1B 数据集上训练的大型 SAM 模型。
siglip_base_patch16_224 SigLIP 203.16M 2亿参数，图像大小 224，在 WebLi 数据集上预训练。
siglip_base_patch16_256 SigLIP 203.20M 2亿参数，图像大小 256，在 WebLi 数据集上预训练。
siglip_base_patch16_384 SigLIP 203.45M 2亿参数，图像大小 384，在 WebLi 数据集上预训练。
siglip_base_patch16_512 SigLIP 203.79M 2亿参数，图像大小 512，在 WebLi 数据集上预训练。
siglip_base_patch16_256_multilingual SigLIP 370.63M 3.7亿参数，图像大小 256，在 WebLi 数据集上预训练。
siglip2_base_patch16_224 SigLIP 375.19M 3.75亿参数，patch 大小 16，图像大小 224，在 WebLi 数据集上预训练。
siglip2_base_patch16_256 SigLIP 375.23M 3.75亿参数，patch 大小 16，图像大小 256，在 WebLi 数据集上预训练。
siglip2_base_patch32_256 SigLIP 376.86M 3.76亿参数，patch 大小 32，图像大小 256，在 WebLi 数据集上预训练。
siglip2_base_patch16_384 SigLIP 376.86M 3.76亿参数，patch 大小 16，图像大小 384，在 WebLi 数据集上预训练。
siglip_large_patch16_256 SigLIP 652.15M 6.52亿参数，图像大小 256，在 WebLi 数据集上预训练。
siglip_large_patch16_384 SigLIP 652.48M 6.52亿参数，图像大小 384，在 WebLi 数据集上预训练。
siglip_so400m_patch14_224 SigLIP 877.36M 8.77亿参数，图像大小 224，形状优化版本，在 WebLi 数据集上预训练。
siglip_so400m_patch14_384 SigLIP 877.96M 8.77亿参数，图像大小 384，形状优化版本，在 WebLi 数据集上预训练。
siglip2_large_patch16_256 SigLIP 881.53M 8.81亿参数，patch 大小 16，图像大小 256，在 WebLi 数据集上预训练。
siglip2_large_patch16_384 SigLIP 881.86M 8.81亿参数，patch 大小 16，图像大小 384，在 WebLi 数据集上预训练。
siglip2_large_patch16_512 SigLIP 882.31M 8.82亿参数，patch 大小 16，图像大小 512，在 WebLi 数据集上预训练。
siglip_so400m_patch16_256_i18n SigLIP 1.13B 11亿参数，图像大小 256，形状优化版本，在 WebLi 数据集上预训练。
siglip2_so400m_patch14_224 SigLIP 1.14B 11亿参数，patch 大小 14，图像大小 224，形状优化版本，在 WebLi 数据集上预训练。
siglip2_so400m_patch16_256 SigLIP 1.14B 11亿参数，patch 大小 16，图像大小 256，形状优化版本，在 WebLi 数据集上预训练。
siglip2_so400m_patch14_384 SigLIP 1.14B 11亿参数，patch 大小 14，图像大小 224，形状优化版本，在 WebLi 数据集上预训练。
siglip2_so400m_patch16_384 SigLIP 1.14B 11亿参数，patch 大小 16，图像大小 384，形状优化版本，在 WebLi 数据集上预训练。
siglip2_so400m_patch16_512 SigLIP 1.14B 11亿参数，patch 大小 16，图像大小 512，形状优化版本，在 WebLi 数据集上预训练。
siglip2_giant_opt_patch16_256 SigLIP 1.87B 18亿参数，patch 大小 16，图像大小 256，在 WebLi 数据集上预训练。
siglip2_giant_opt_patch16_384 SigLIP 1.87B 18亿参数，patch 大小 16，图像大小 384，在 WebLi 数据集上预训练。
stable_diffusion_3_medium Stable Diffusion 3 2.99B 30亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。
stable_diffusion_3.5_medium Stable Diffusion 3 3.37B 30亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT-X 生成模型和 VAE 自编码器。由 Stability AI 开发。
stable_diffusion_3.5_large Stable Diffusion 3 9.05B 90亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。
stable_diffusion_3.5_large_turbo Stable Diffusion 3 9.05B 90亿参数，包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。一个时间步蒸馏版本，消除了无分类器指导，并使用更少的步骤进行生成。由 Stability AI 开发。
t5_small_multi T5 0 8层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
t5_base_multi T5 0 12层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
t5_large_multi T5 0 24层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
flan_small_multi T5 0 8层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
flan_base_multi T5 0 12层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
flan_large_multi T5 0 24层 T5 模型。在 Colossal Clean Crawled Corpus (C4) 数据集上训练。
t5_1.1_small T5 60.51M
t5_1.1_base T5 247.58M
t5_1.1_large T5 750.25M
t5_1.1_xl T5 2.85B
t5_1.1_xxl T5 11.14B
vgg_11_imagenet VGG 9.22M 11层 VGG 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
vgg_13_imagenet VGG 9.40M 13层 VGG 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
vgg_16_imagenet VGG 14.71M 16层 VGG 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
vgg_19_imagenet VGG 20.02M 19层 VGG 模型，在 ImageNet 1k 数据集上以 224x224 分辨率预训练。
vit_base_patch16_224_imagenet ViT 85.80M ViT-B16 模型，在 ImageNet 1k 数据集上以 224x224 图像分辨率预训练。
vit_base_patch16_224_imagenet21k ViT 85.80M ViT-B16 主干网络，在 ImageNet 21k 数据集上以 224x224 图像分辨率预训练。
vit_base_patch16_384_imagenet ViT 86.09M ViT-B16 模型，在 ImageNet 1k 数据集上以 384x384 图像分辨率预训练。
vit_base_patch32_224_imagenet21k ViT 87.46M ViT-B32 主干网络，在 ImageNet 21k 数据集上以 224x224 图像分辨率预训练。
vit_base_patch32_384_imagenet ViT 87.53M ViT-B32 模型，在 ImageNet 1k 数据集上以 384x384 图像分辨率预训练。
vit_large_patch16_224_imagenet ViT 303.30M ViT-L16 模型，在 ImageNet 1k 数据集上以 224x224 图像分辨率预训练。
vit_large_patch16_224_imagenet21k ViT 303.30M ViT-L16 主干网络，在 ImageNet 21k 数据集上以 224x224 图像分辨率预训练。
vit_large_patch16_384_imagenet ViT 303.69M ViT-L16 模型，在 ImageNet 1k 数据集上以 384x384 图像分辨率预训练。
vit_large_patch32_224_imagenet21k ViT 305.51M ViT-L32 主干网络，在 ImageNet 21k 数据集上以 224x224 图像分辨率预训练。
vit_large_patch32_384_imagenet ViT 305.61M ViT-L32 模型，在 ImageNet 1k 数据集上以 384x384 图像分辨率预训练。
vit_huge_patch14_224_imagenet21k ViT 630.76M ViT-H14 主干网络，在 ImageNet 21k 数据集上以 224x224 图像分辨率预训练。
whisper_tiny_en Whisper 37.18M 4层 Whisper 模型。在 438,000 小时带标签的英文语音数据上训练。
whisper_tiny_multi Whisper 37.76M 4层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练。
whisper_base_multi Whisper 72.59M 6层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练。
whisper_base_en Whisper 124.44M 6层 Whisper 模型。在 438,000 小时带标签的英文语音数据上训练。
whisper_small_en Whisper 241.73M 12层 Whisper 模型。在 438,000 小时带标签的英文语音数据上训练。
whisper_small_multi Whisper 241.73M 12层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练。
whisper_medium_en Whisper 763.86M 24层 Whisper 模型。在 438,000 小时带标签的英文语音数据上训练。
whisper_medium_multi Whisper 763.86M 24层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练。
whisper_large_multi Whisper 1.54B 32层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练。
whisper_large_multi_v2 Whisper 1.54B 32层 Whisper 模型。在 680,000 小时带标签的多语言语音数据上训练了 2.5 个 epoch。是 whisper_large_multi 的改进版本。
xlm_roberta_base_multi XLMRoberta 277.45M 12层 XLM-RoBERTa 模型，保留大小写。在 CommonCrawl 数据集上以100种语言训练。
xlm_roberta_large_multi XLMRoberta 558.84M 24层 XLM-RoBERTa 模型，保留大小写。在 CommonCrawl 数据集上以100种语言训练。