Keras 3 API 文档 / KerasHub / KerasHub 模型

KerasHub 模型

KerasHub 包含流行模型架构的端到端实现。这些模型可以通过两种方式创建

  • 通过 from_preset() 构造函数,它使用预训练配置、词汇表和(可选)权重实例化一个对象。
  • 通过用户控制的自定义配置。

下面,我们列出了库中可用的所有预设。有关更详细的使用方法,请浏览特定类的文档字符串。有关我们 API 的深入介绍,请参阅 入门指南

预设

以下预设名称对应于预训练模型的配置和权重。任何任务、预处理器、骨干网络或分词器 from_preset() 都可以用来从保存的预设中创建模型。

backbone = keras_hub.models.Backbone.from_preset("bert_base_en")
tokenizer = keras_hub.models.Tokenizer.from_preset("bert_base_en")
classifier = keras_hub.models.TextClassifier.from_preset("bert_base_en", num_classes=2)
preprocessor = keras_hub.models.TextClassifierPreprocessor.from_preset("bert_base_en")
预设名称 模型 参数 描述
albert_base_en_uncased ALBERT 11.68M 12 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
albert_large_en_uncased ALBERT 17.68M 24 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
albert_extra_large_en_uncased ALBERT 58.72M 24 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
albert_extra_extra_large_en_uncased ALBERT 222.60M 12 层 ALBERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bart_base_en BART 139.42M 6 层 BART 模型,保持大小写。在 BookCorpus、英文维基百科和 CommonCrawl 上训练。 模型卡
bart_large_en BART 406.29M 12 层 BART 模型,保持大小写。在 BookCorpus、英文维基百科和 CommonCrawl 上训练。 模型卡
bart_large_en_cnn BART 406.29M bart_large_en 骨干模型,在 CNN+DM 摘要数据集上微调。 模型卡
bert_tiny_en_uncased BERT 4.39M 2 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_small_en_uncased BERT 28.76M 4 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_medium_en_uncased BERT 41.37M 8 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_base_en_uncased BERT 109.48M 12 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_base_en BERT 108.31M 12 层 BERT 模型,保持大小写。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_base_zh BERT 102.27M 12 层 BERT 模型。在中文维基百科上训练。 模型卡
bert_base_multi BERT 177.85M 12 层 BERT 模型,保持大小写。在 104 种语言的维基百科上训练 模型卡
bert_large_en_uncased BERT 335.14M 24 层 BERT 模型,所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_large_en BERT 333.58M 24 层 BERT 模型,保持大小写。在英文维基百科 + BooksCorpus 上训练。 模型卡
bert_tiny_en_uncased_sst2 BERT 4.39M bert_tiny_en_uncased 骨干模型,在 SST-2 情感分析数据集上微调。 模型卡
bloom_560m_multi BLOOM 559.21M 24 层 Bloom 模型,隐藏维度为 1024。在 45 种自然语言和 12 种编程语言上训练。 模型卡
bloom_1.1b_multi BLOOM 1.07B 24 层 Bloom 模型,隐藏维度为 1536。在 45 种自然语言和 12 种编程语言上训练。 模型卡
bloom_1.7b_multi BLOOM 1.72B 24 层 Bloom 模型,隐藏维度为 2048。在 45 种自然语言和 12 种编程语言上训练。 模型卡
bloom_3b_multi BLOOM 3.00B 30 层 Bloom 模型,隐藏维度为 2560。在 45 种自然语言和 12 种编程语言上训练。 模型卡
bloomz_560m_multi BLOOMZ 559.21M 24 层 Bloom 模型,隐藏维度为 1024。在跨语言任务混合 (xP3) 数据集上微调。 模型卡
bloomz_1.1b_multi BLOOMZ 1.07B 24 层 Bloom 模型,隐藏维度为 1536。在跨语言任务混合 (xP3) 数据集上微调。 模型卡
bloomz_1.7b_multi BLOOMZ 1.72B 24 层 Bloom 模型,隐藏维度为 2048。在跨语言任务混合 (xP3) 数据集上微调。 模型卡
bloomz_3b_multi BLOOMZ 3.00B 30 层 Bloom 模型,隐藏维度为 2560。在跨语言任务混合 (xP3) 数据集上微调。 模型卡
deberta_v3_extra_small_en DeBERTaV3 70.68M 12 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡
deberta_v3_small_en DeBERTaV3 141.30M 6 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡
deberta_v3_base_en DeBERTaV3 183.83M 12 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡
deberta_v3_large_en DeBERTaV3 434.01M 24 层 DeBERTaV3 模型,保持大小写。在英文维基百科、BookCorpus 和 OpenWebText 上训练。 模型卡
deberta_v3_base_multi DeBERTaV3 278.22M 12 层 DeBERTaV3 模型,保持大小写。在 2.5TB 多语言 CC100 数据集上训练。 模型卡
deeplabv3_plus_resnet50_pascalvoc DeepLabV3 39.19M DeepLabV3+ 模型,使用 ResNet50 作为图像编码器,并在语义边界数据集 (SBD) 增强的 Pascal VOC 数据集上训练,该数据集的类别准确率为 90.01,平均 IoU 为 0.63。 模型卡
densenet_121_imagenet DenseNet 7.04M 121 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡
densenet_169_imagenet DenseNet 12.64M 169 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡
densenet_201_imagenet DenseNet 18.32M 201 层 DenseNet 模型,在 224x224 分辨率的 ImageNet 1k 数据集上预训练。 模型卡
distil_bert_base_en_uncased DistilBERT 66.36M 6 层 DistilBERT 模型,所有输入都小写化。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 模型卡
distil_bert_base_en DistilBERT 65.19M 6 层 DistilBERT 模型,保持大小写。使用 BERT 作为教师模型,在英文维基百科 + BooksCorpus 上训练。 模型卡
distil_bert_base_multi DistilBERT 134.73M 6 层 DistilBERT 模型,保持大小写。在 104 种语言的维基百科上训练 模型卡
electra_small_discriminator_uncased_en ELECTRA 13.55M 12 层小型 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
electra_small_generator_uncased_en ELECTRA 13.55M 12 层小型 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
electra_base_discriminator_uncased_en ELECTRA 109.48M 12 层基础 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
electra_base_generator_uncased_en ELECTRA 33.58M 12 层基础 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
electra_large_discriminator_uncased_en ELECTRA 335.14M 24 层大型 ELECTRA 判别器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
electra_large_generator_uncased_en ELECTRA 51.07M 24 层大型 ELECTRA 生成器模型。所有输入都小写化。在英文维基百科 + BooksCorpus 上训练。 模型卡
f_net_base_en FNet 82.86M 12 层 FNet 模型,保持大小写。在 C4 数据集上训练。 模型卡
f_net_large_en FNet 236.95M 24 层 FNet 模型,保持大小写。在 C4 数据集上训练。 模型卡
falcon_refinedweb_1b_en Falcon 1.31B 24 层 Falcon 模型(具有 10 亿个参数的 Falcon),在 3500 亿个 RefinedWeb 数据集令牌上训练。 模型卡
mit_b0_ade20k_512 MiT 3.32M 具有 8 个变换器块的 MiT (MixTransformer) 模型。
mit_b1_ade20k_512 MiT 13.16M 具有 8 个变换器块的 MiT (MixTransformer) 模型。
mit_b2_ade20k_512 MiT 24.20M 具有 16 个变换器块的 MiT (MixTransformer) 模型。
mit_b3_ade20k_512 MiT 44.08M 具有 28 个变换器块的 MiT (MixTransformer) 模型。
mit_b4_ade20k_512 MiT 60.85M 具有 41 个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b5_ade20k_640 MiT 81.45M 具有 52 个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b0_cityscapes_1024 MiT 3.32M 具有 8 个变换器块的 MiT (MixTransformer) 模型。
mit_b1_cityscapes_1024 MiT 13.16M 具有 8 个变换器块的 MiT (MixTransformer) 模型。
mit_b2_cityscapes_1024 MiT 24.20M 具有 16 个变换器块的 MiT (MixTransformer) 模型。
mit_b3_cityscapes_1024 MiT 44.08M 具有 28 个变换器块的 MiT (MixTransformer) 模型。
mit_b4_cityscapes_1024 MiT 60.85M 具有 41 个 Transformer 块的 MiT (MixTransformer) 模型。
mit_b5_cityscapes_1024 MiT 81.45M 具有 52 个 Transformer 块的 MiT (MixTransformer) 模型。
resnet_18_imagenet ResNet 11.19M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 18 层 ResNet 模型。 模型卡
resnet_50_imagenet ResNet 23.56M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 50 层 ResNet 模型。 模型卡
resnet_101_imagenet ResNet 42.61M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 101 层 ResNet 模型。 模型卡
resnet_152_imagenet ResNet 58.30M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 152 层 ResNet 模型。 模型卡
resnet_v2_50_imagenet ResNet 23.56M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 50 层 ResNetV2 模型。 模型卡
resnet_v2_101_imagenet ResNet 42.61M 在 ImageNet 1k 数据集上以 224x224 分辨率预训练的 101 层 ResNetV2 模型。 模型卡
gemma_2b_en Gemma 2.51B 20 亿参数,18 层,基础 Gemma 模型。 模型卡
gemma_instruct_2b_en Gemma 2.51B 20 亿参数,18 层,指令微调的 Gemma 模型。 模型卡
gemma_1.1_instruct_2b_en Gemma 2.51B 20 亿参数,18 层,指令微调的 Gemma 模型。1.1 更新提高了模型质量。 模型卡
code_gemma_1.1_2b_en Gemma 2.51B 20 亿参数,18 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。1.1 更新提高了模型质量。 模型卡
code_gemma_2b_en Gemma 2.51B 20 亿参数,18 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。 模型卡
gemma_7b_en Gemma 8.54B 70 亿参数,28 层,基础 Gemma 模型。 模型卡
gemma_instruct_7b_en Gemma 8.54B 70 亿参数,28 层,指令微调的 Gemma 模型。 模型卡
gemma_1.1_instruct_7b_en Gemma 8.54B 70 亿参数,28 层,指令微调的 Gemma 模型。1.1 更新提高了模型质量。 模型卡
code_gemma_7b_en Gemma 8.54B 70 亿参数,28 层,CodeGemma 模型。该模型已在代码补全的中间填充(FIM)任务上进行了训练。 模型卡
code_gemma_instruct_7b_en Gemma 8.54B 70 亿参数,28 层,指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行了训练。 模型卡
code_gemma_1.1_instruct_7b_en Gemma 8.54B 70 亿参数,28 层,指令微调的 CodeGemma 模型。该模型已针对与代码相关的聊天用例进行了训练。1.1 更新提高了模型质量。 模型卡
gemma2_2b_en Gemma 2.61B 20 亿参数,26 层,基础 Gemma 模型。 模型卡
gemma2_instruct_2b_en Gemma 2.61B 20 亿参数,26 层,指令微调的 Gemma 模型。 模型卡
gemma2_9b_en Gemma 9.24B 90 亿参数,42 层,基础 Gemma 模型。 模型卡
gemma2_instruct_9b_en Gemma 9.24B 90 亿参数,42 层,指令微调的 Gemma 模型。 模型卡
gemma2_27b_en Gemma 27.23B 270 亿参数,42 层,基础 Gemma 模型。 模型卡
gemma2_instruct_27b_en Gemma 27.23B 270 亿参数,42 层,指令微调的 Gemma 模型。 模型卡
shieldgemma_2b_en Gemma 2.61B 20 亿参数,26 层,ShieldGemma 模型。 模型卡
shieldgemma_9b_en Gemma 9.24B 90 亿参数,42 层,ShieldGemma 模型。 模型卡
shieldgemma_27b_en Gemma 27.23B 270 亿参数,42 层,ShieldGemma 模型。 模型卡
gpt2_base_en GPT-2 124.44M 12 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡
gpt2_medium_en GPT-2 354.82M 24 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡
gpt2_large_en GPT-2 774.03M 36 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡
gpt2_extra_large_en GPT-2 1.56B 48 层 GPT-2 模型,保持大小写。在 WebText 上训练。 模型卡
gpt2_base_en_cnn_dailymail GPT-2 124.44M 12 层 GPT-2 模型,保持大小写。在 CNN/DailyMail 摘要数据集上微调。
llama3_8b_en LLaMA 3 8.03B 80 亿参数,32 层,基础 LLaMA 3 模型。 模型卡
llama3_8b_en_int8 LLaMA 3 8.03B 80 亿参数,32 层,基础 LLaMA 3 模型,激活和权重量化为 int8。 模型卡
llama3_instruct_8b_en LLaMA 3 8.03B 80 亿参数,32 层,指令微调的 LLaMA 3 模型。 模型卡
llama3_instruct_8b_en_int8 LLaMA 3 8.03B 80 亿参数,32 层,指令微调的 LLaMA 3 模型,激活和权重量化为 int8。 模型卡
llama2_7b_en LLaMA 2 6.74B 70 亿参数,32 层,基础 LLaMA 2 模型。 模型卡
llama2_7b_en_int8 LLaMA 2 6.74B 70 亿参数,32 层,基础 LLaMA 2 模型,激活和权重量化为 int8。 模型卡
llama2_instruct_7b_en LLaMA 2 6.74B 70 亿参数,32 层,指令微调的 LLaMA 2 模型。 模型卡
llama2_instruct_7b_en_int8 LLaMA 2 6.74B 70 亿参数,32 层,指令微调的 LLaMA 2 模型,激活和权重量化为 int8。 模型卡
vicuna_1.5_7b_en Vicuna 6.74B 70 亿参数,32 层,指令微调的 Vicuna v1.5 模型。 模型卡
mistral_7b_en Mistral 7.24B Mistral 7B 基础模型 模型卡
mistral_instruct_7b_en Mistral 7.24B Mistral 7B 指令模型 模型卡
mistral_0.2_instruct_7b_en Mistral 7.24B Mistral 7B 指令版本 0.2 模型 模型卡
opt_125m_en OPT 125.24M 12 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡
opt_1.3b_en OPT 1.32B 24 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡
opt_2.7b_en OPT 2.70B 32 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡
opt_6.7b_en OPT 6.70B 32 层 OPT 模型,保持大小写。在 BookCorpus、CommonCrawl、Pile 和 PushShift.io 语料库上训练。 模型卡
pali_gemma_3b_mix_224 PaliGemma 2.92B 图像大小 224,混合微调,文本序列长度为 256 模型卡
pali_gemma_3b_mix_448 PaliGemma 2.92B 图像大小 448,混合微调,文本序列长度为 512 模型卡
pali_gemma_3b_224 PaliGemma 2.92B 图像大小 224,预训练,文本序列长度为 128 模型卡
pali_gemma_3b_448 PaliGemma 2.92B 图像大小 448,预训练,文本序列长度为 512 模型卡
pali_gemma_3b_896 PaliGemma 2.93B 图像大小 896,预训练,文本序列长度为 512 模型卡
phi3_mini_4k_instruct_en Phi-3 3.82B 38 亿参数,32 层,4k 上下文长度,Phi-3 模型。该模型使用 Phi-3 数据集进行训练。该数据集包括合成数据和过滤后的公开可用网站数据,重点关注高质量和推理密集型属性。 模型卡
phi3_mini_128k_instruct_en Phi-3 3.82B 38 亿参数,32 层,128k 上下文长度,Phi-3 模型。该模型使用 Phi-3 数据集进行训练。该数据集包括合成数据和过滤后的公开可用网站数据,重点关注高质量和推理密集型属性。 模型卡
roberta_base_en RoBERTa 124.05M 12 层 RoBERTa 模型,保持大小写。在英文维基百科、BooksCorpus、CommonCraw 和 OpenWebText 上训练。 模型卡
roberta_large_en RoBERTa 354.31M 24 层 RoBERTa 模型,保持大小写。在英文维基百科、BooksCorpus、CommonCraw 和 OpenWebText 上训练。 模型卡
xlm_roberta_base_multi XLM-RoBERTa 277.45M 12 层 XLM-RoBERTa 模型,保持大小写。在 100 种语言的 CommonCrawl 上训练。 模型卡
xlm_roberta_large_multi XLM-RoBERTa 558.84M 24 层 XLM-RoBERTa 模型,保持大小写。在 100 种语言的 CommonCrawl 上训练。 模型卡
sam_base_sa1b SAMImageSegmenter 93.74M 在 SA1B 数据集上训练的基础 SAM 模型。 模型卡
sam_large_sa1b SAMImageSegmenter 641.09M 在 SA1B 数据集上训练的大型 SAM 模型。 模型卡
sam_huge_sa1b SAMImageSegmenter 312.34M 在 SA1B 数据集上训练的巨型 SAM 模型。 模型卡
stable_diffusion_3_medium StableDiffusion3 2.99B 30 亿参数,包括 CLIP L 和 CLIP G 文本编码器、MMDiT 生成模型和 VAE 自编码器。由 Stability AI 开发。 模型卡
t5_small_multi T5 0 8 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
t5_base_multi T5 0 12 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
t5_large_multi T5 0 24 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
flan_small_multi T5 0 8 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
flan_base_multi T5 0 12 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
flan_large_multi T5 0 24 层 T5 模型。在巨型干净爬取语料库 (C4) 上训练。 模型卡
whisper_tiny_en Whisper 37.18M 4 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡
whisper_base_en Whisper 124.44M 6 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡
whisper_small_en Whisper 241.73M 12 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡
whisper_medium_en Whisper 763.86M 24 层 Whisper 模型。在 438,000 小时的带标签英语语音数据上训练。 模型卡
whisper_tiny_multi Whisper 37.76M 4 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片
whisper_base_multi Whisper 72.59M 6 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片
whisper_small_multi Whisper 241.73M 12 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片
whisper_medium_multi Whisper 763.86M 24 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片
whisper_large_multi Whisper 1.54B 32 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据进行训练。 模型卡片
whisper_large_multi_v2 Whisper 1.54B 32 层 Whisper 模型。使用 680,000 小时标记的多语言语音数据训练 2.5 个 epoch。对 whisper_large_multi 的改进。 模型卡片

注意:提供的链接将指向模型卡片或官方 README,如果作者未提供模型卡片。

API 文档

Albert

Bart

Bert

Bloom

DebertaV3

DistilBert

Gemma

Electra

Falcon

FNet

GPT2

Llama

Llama3

Mistral

OPT

PaliGemma

Phi3

DenseNet

Segment Anything 模型

Stable Diffusion 3

DeepLabV3 和 DeepLabV3Plus

ResNet

Roberta

XLMRoberta