Lambda 层

[源代码]

Lambda

tf_keras.layers.Lambda(
    function, output_shape=None, mask=None, arguments=None, **kwargs
)

将任意表达式包装为 Layer 对象。

Lambda 层存在是为了允许在构建 Sequential 和 Functional API 模型时,将任意表达式用作 LayerLambda 层最适合简单的操作或快速实验。对于更高级的用例,请遵循 此指南 来通过子类化 tf.keras.layers.Layer

警告:tf.keras.layers.Lambda 层存在 (反) 序列化限制!

通过子类化 tf.keras.layers.Layer 而不是使用 Lambda 层的主要原因是保存和检查模型。Lambda 层通过序列化 Python 字节码来保存,这本质上是不可移植的。它们只能在保存它们的环境中加载。子类化的层可以通过重写其 get_config() 方法以更便携的方式保存。依赖于子类化层的模型通常也更容易可视化和理解。

示例

# add a x -> x^2 layer
model.add(Lambda(lambda x: x ** 2))
# add a layer that returns the concatenation
# of the positive part of the input and
# the opposite of the negative part

def antirectifier(x):
    x -= K.mean(x, axis=1, keepdims=True)
    x = K.l2_normalize(x, axis=1)
    pos = K.relu(x)
    neg = K.relu(-x)
    return K.concatenate([pos, neg], axis=1)

model.add(Lambda(antirectifier))

关于变量的说明

虽然可以使用变量与 Lambda 层,但这种做法是不被推荐的,因为它很容易导致错误。例如,考虑以下层

scale = tf.Variable(1.)
scale_layer = tf.keras.layers.Lambda(lambda x: x * scale)

由于 scale_layer 不直接跟踪 scale 变量,它不会出现在 scale_layer.trainable_weights 中,因此如果 scale_layer 在模型中使用,它将不会被训练。

更好的模式是编写一个子类层

class ScaleLayer(tf.keras.layers.Layer):
    def __init__(self, **kwargs):
        super().__init__(**kwargs)
        self.scale = tf.Variable(1.)

    def call(self, inputs):
        return inputs * self.scale

总的来说,Lambda 层对于简单的无状态计算很方便,但任何更复杂的内容都应该使用子类层来代替。

参数

  • function: 要评估的函数。将输入张量作为第一个参数。
  • output_shape: 函数的预期输出形状。如果未显式提供,则此参数可以推断。可以是一个元组或函数。如果是一个元组,它只指定第一个维度及之后的部分;假定样本维度与输入相同:output_shape = (input_shape[0], ) + output_shape,或者,输入为 None,样本维度也为 Noneoutput_shape = (None, ) + output_shape。如果是一个函数,它将输入形状指定为整个形状的函数:output_shape = f(input_shape)
  • mask: 要么是 None(表示没有掩码),要么是一个与 compute_mask 层方法具有相同签名的可调用对象,或者是一个张量,无论输入是什么,都将作为输出掩码返回。
  • arguments: 要传递给函数的可选关键字参数字典。

输入形状 任意。在将此层用作模型中的第一层时,使用关键字参数 input_shape (整数元组,不包括样本轴)。

整数元组,不包括样本轴) 当使用此层作为模型中的第一层时。

输出形状 由 output_shape 参数指定