关于 Keras 3
Keras 是一个用 Python 编写的深度学习 API，能够在 JAX、TensorFlow 或 PyTorch 之上运行。
Keras 是
- 简单 – 但并非过于简单。Keras 减少了开发者的认知负荷，让你能够专注于真正重要的问题。
- 灵活 – Keras 采用逐步揭示复杂性的原则：简单的流程应该快速且容易，而任意高级的流程应该通过一个清晰的、基于你已学知识的路径来实现。
- 强大 – Keras 提供行业级的性能和可扩展性：它被包括 NASA、YouTube 或 Waymo 在内的组织使用。
Keras 3 是一个多框架深度学习 API
作为一个多框架 API，Keras 可以用来开发与任何框架（JAX、TensorFlow 或 PyTorch）兼容的模块化组件。
这种方法有几个关键优势
- 始终为您的模型获得最佳性能。 在我们的基准测试中，我们发现 JAX 通常在 GPU、TPU 和 CPU 上提供最佳的训练和推理性能 – 但结果因模型而异，因为非 XLA TensorFlow 有时在 GPU 上更快。能够动态选择为您的模型提供最佳性能的后端，而无需更改任何代码，意味着您始终可以保证以最高效率进行训练和服务。
- 最大化您的模型可用的生态系统覆盖范围。 任何 Keras 模型都可以实例化为 PyTorch
Module，可以导出为 TensorFlowSavedModel，或者可以实例化为无状态的 JAX 函数。这意味着您可以将 Keras 模型与 PyTorch 生态系统软件包、全系列的 TensorFlow 部署和生产工具以及 JAX 大规模 TPU 训练基础设施一起使用。使用 Keras API 编写一个model.py，即可访问 ML 世界所提供的一切。 - 最大化开源模型发布的发行范围。 想要发布预训练模型？希望尽可能多的人能够使用它？如果您使用纯 TensorFlow 或 PyTorch 实现，那么大约一半的市场可以使用它。如果您使用 Keras 实现，那么无论他们选择哪个框架（即使他们不是 Keras 用户），任何人都可以立即使用它。在不增加开发成本的情况下，获得两倍的影响力。
- 使用来自任何来源的数据管道。 Keras 的
fit()/evaluate()/predict()例程与tf.data.Dataset对象、PyTorchDataLoader对象、NumPy 数组、Pandas 数据帧兼容 – 无论您使用的是哪个后端。您可以在 PyTorchDataLoader上训练 Keras + TensorFlow 模型，或者在tf.data.Dataset上训练 Keras + PyTorch 模型。
初次接触 Keras
Keras 的核心数据结构是层和模型。最简单的模型类型是 Sequential 模型，这是一个层的线性堆叠。对于更复杂的架构，您应该使用 Keras 函数式 API，它允许构建任意的层图，或者 通过子类化从头开始编写模型。
这是一个 Sequential 模型
import keras
model = keras.Sequential()
堆叠层就像 .add() 一样简单
from keras import layers
model.add(layers.Dense(units=64, activation='relu'))
model.add(layers.Dense(units=10, activation='softmax'))
一旦您的模型看起来不错，请使用 .compile() 配置其学习过程
model.compile(loss='categorical_crossentropy',
optimizer='sgd',
metrics=['accuracy'])
如果需要，您可以进一步配置优化器。Keras 的理念是保持简单的事情简单，同时允许用户在需要时完全控制（最终控制是通过子类化轻松扩展源代码）。
model.compile(loss=keras.losses.categorical_crossentropy,
optimizer=keras.optimizers.SGD(learning_rate=0.01, momentum=0.9, nesterov=True))
现在您可以批量迭代训练数据
# x_train and y_train are Numpy arrays
model.fit(x_train, y_train, epochs=5, batch_size=32)
在一行中评估您的测试损失和指标
loss_and_metrics = model.evaluate(x_test, y_test, batch_size=128)
或生成新数据的预测
classes = model.predict(x_test, batch_size=128)
您刚刚看到的是使用 Keras 最基本的方式。
然而，Keras 也是一个高度灵活的框架，适合迭代最先进的研究想法。Keras 遵循逐步揭示复杂性的原则：它使入门变得容易，但也可以处理任意高级的用例，每一步只需要增量学习。
就像您能够在上面用几行代码训练和评估一个简单的神经网络一样，您可以使用 Keras 快速开发新的训练过程或最先进的模型架构。
这是一个自定义 Keras 层的示例 – 它可以互换地用于 JAX、TensorFlow 或 PyTorch 中的低级工作流程
import keras
from keras import ops
class TokenAndPositionEmbedding(keras.Layer):
def __init__(self, max_length, vocab_size, embed_dim):
super().__init__()
self.token_embed = self.add_weight(
shape=(vocab_size, embed_dim),
initializer="random_uniform",
trainable=True,
)
self.position_embed = self.add_weight(
shape=(max_length, embed_dim),
initializer="random_uniform",
trainable=True,
)
def call(self, token_ids):
# Embed positions
length = token_ids.shape[-1]
positions = ops.arange(0, length, dtype="int32")
positions_vectors = ops.take(self.position_embed, positions, axis=0)
# Embed tokens
token_ids = ops.cast(token_ids, dtype="int32")
token_vectors = ops.take(self.token_embed, token_ids, axis=0)
# Sum both
embed = token_vectors + positions_vectors
# Normalize embeddings
power_sum = ops.sum(ops.square(embed), axis=-1, keepdims=True)
return embed / ops.sqrt(ops.maximum(power_sum, 1e-7))
有关 Keras 的更多深入教程，您可以查看
支持
您可以在 Keras Google 论坛上提问并参与开发讨论。
您也可以在 GitHub 问题中发布错误报告和功能请求（仅限）。请务必先阅读 我们的指南。
为什么叫 Keras 这个名字？
Keras (κέρας) 在古希腊语中意为角。它指的是古希腊和拉丁文学中的一个文学形象，最初出现在奥德赛中，梦境精灵（Oneiroi，单数 Oneiros）被分为两类，一类通过象牙之门到达地球，用虚假的幻象欺骗做梦者，另一类通过角之门到达，宣布将要实现的未来。这是对 κέρας (角) / κραίνω (实现)，以及 ἐλέφας (象牙) / ἐλεφαίρομαι (欺骗) 这些词的文字游戏。
Keras 最初是作为 ONEIROS 项目（开放式神经电子智能机器人操作系统）的研究工作的一部分而开发的。
“Oneiroi 是我们无法解开的谜团 - 谁能确定他们讲述的故事？并非所有人所期待的事情都会发生。有两个门可以让转瞬即逝的 Oneiroi 通过；一个是角做的，一个是象牙做的。通过锯齿状象牙的 Oneiroi 是虚假的，带着不会实现的信息；那些通过抛光的角出来的 Oneiroi 背后有真理，将为看到他们的人们完成。” 荷马，《奥德赛》19. 562 ff (Shewring 翻译)。