LSTM 层

[源]

LSTM

keras.layers.LSTM(
    units,
    activation="tanh",
    recurrent_activation="sigmoid",
    use_bias=True,
    kernel_initializer="glorot_uniform",
    recurrent_initializer="orthogonal",
    bias_initializer="zeros",
    unit_forget_bias=True,
    kernel_regularizer=None,
    recurrent_regularizer=None,
    bias_regularizer=None,
    activity_regularizer=None,
    kernel_constraint=None,
    recurrent_constraint=None,
    bias_constraint=None,
    dropout=0.0,
    recurrent_dropout=0.0,
    seed=None,
    return_sequences=False,
    return_state=False,
    go_backwards=False,
    stateful=False,
    unroll=False,
    use_cudnn="auto",
    **kwargs
)

长短期记忆层 - Hochreiter 1997。

根据可用的运行时硬件和约束,此层将选择不同的实现(基于 cuDNN 或后端原生)以最大限度地提高性能。如果 GPU 可用且该层的所有参数都满足 cuDNN 内核的要求(详情见下),则在使用 TensorFlow 后端时,该层将使用快速的 cuDNN 实现。使用 cuDNN 实现的要求包括:

  1. activation == tanh
  2. recurrent_activation == sigmoid
  3. recurrent_dropout 为 0 == 0
  4. unrollFalse
  5. use_biasTrue
  6. 输入(如果使用掩码)必须严格采用右填充。
  7. 在最外层上下文中启用了 Eager execution。

例如

>>> inputs = np.random.random((32, 10, 8))
>>> lstm = keras.layers.LSTM(4)
>>> output = lstm(inputs)
>>> output.shape
(32, 4)
>>> lstm = keras.layers.LSTM(
...     4, return_sequences=True, return_state=True)
>>> whole_seq_output, final_memory_state, final_carry_state = lstm(inputs)
>>> whole_seq_output.shape
(32, 10, 4)
>>> final_memory_state.shape
(32, 4)
>>> final_carry_state.shape
(32, 4)

参数

  • units: 正整数,输出空间的维度。
  • activation: 要使用的激活函数。默认值:双曲正切 (tanh)。如果传入 None,则不应用激活函数(即“线性”激活:a(x) = x)。
  • recurrent_activation: 用于循环步骤的激活函数。默认值:sigmoid (sigmoid)。如果传入 None,则不应用激活函数(即“线性”激活:a(x) = x)。
  • use_bias: 布尔值(默认 True),表示该层是否使用偏置向量。
  • kernel_initializer: kernel 权重矩阵的初始化器,用于输入的线性变换。默认值:"glorot_uniform"
  • recurrent_initializer: recurrent_kernel 权重矩阵的初始化器,用于循环状态的线性变换。默认值:"orthogonal"
  • bias_initializer: 偏置向量的初始化器。默认值:"zeros"
  • unit_forget_bias: 布尔值(默认 True)。如果为 True,则在初始化时为遗忘门的偏置加 1。将其设置为 True 也会强制使用 bias_initializer="zeros"。这是 Jozefowicz 等人推荐的做法。
  • kernel_regularizer: 应用于 kernel 权重矩阵的正则化函数。默认值:None
  • recurrent_regularizer: 应用于 recurrent_kernel 权重矩阵的正则化函数。默认值:None
  • bias_regularizer: 应用于偏置向量的正则化函数。默认值:None
  • activity_regularizer: 应用于该层输出(即其“激活”)的正则化函数。默认值:None
  • kernel_constraint: 应用于 kernel 权重矩阵的约束函数。默认值:None
  • recurrent_constraint: 应用于 recurrent_kernel 权重矩阵的约束函数。默认值:None
  • bias_constraint: 应用于偏置向量的约束函数。默认值:None
  • dropout: 介于 0 和 1 之间的浮点数。用于输入线性变换的单元丢弃比例。默认值:0。
  • recurrent_dropout: 介于 0 和 1 之间的浮点数。用于循环状态线性变换的单元丢弃比例。默认值:0。
  • seed: 用于 dropout 的随机种子。
  • return_sequences: 布尔值。是否返回输出序列中的最后一个输出,或返回完整序列。默认值:False
  • return_state: 布尔值。除了输出外是否返回最后一个状态。默认值:False
  • go_backwards: 布尔值(默认:False)。如果为 True,则反向处理输入序列并返回反向序列。
  • stateful: 布尔值(默认:False)。如果为 True,则批次中索引 i 处的每个样本的最后一个状态将用作下一个批次中索引 i 处样本的初始状态。
  • unroll: 布尔值(默认 False)。如果为 True,则网络将被展开,否则将使用符号循环。展开可以加快 RNN 的速度,但通常会占用更多内存。展开仅适用于短序列。
  • use_cudnn: 是否使用 cuDNN 支持的实现。"auto" 会在可行时尝试使用 cuDNN,否则将回退到默认实现。

调用参数

  • inputs: 一个 3D 张量,形状为 (batch, timesteps, feature)
  • mask: 形状为 (samples, timesteps) 的二进制张量,指示是否应掩盖给定时间步长(可选)。单个 True 条目表示应使用相应的时间步长,而 False 条目表示应忽略相应的时间步长。默认为 None
  • training: Python 布尔值,指示该层应在训练模式还是推理模式下运行。此参数在调用单元时会传递给它。仅在使用 dropoutrecurrent_dropout 时相关(可选)。默认为 None
  • initial_state: 要传递给单元首次调用的初始状态张量列表(可选,None 会创建填充零的初始状态张量)。默认为 None