Keras 2 API 文档 / 层 API / 循环层 / SimpleRNN 层

SimpleRNN 层

[源]

SimpleRNN

tf_keras.layers.SimpleRNN(
    units,
    activation="tanh",
    use_bias=True,
    kernel_initializer="glorot_uniform",
    recurrent_initializer="orthogonal",
    bias_initializer="zeros",
    kernel_regularizer=None,
    recurrent_regularizer=None,
    bias_regularizer=None,
    activity_regularizer=None,
    kernel_constraint=None,
    recurrent_constraint=None,
    bias_constraint=None,
    dropout=0.0,
    recurrent_dropout=0.0,
    return_sequences=False,
    return_state=False,
    go_backwards=False,
    stateful=False,
    unroll=False,
    **kwargs
)

全连接 RNN,其输出会反馈给输入。

有关 RNN API 用法的详细信息,请参阅TF-Keras RNN API 指南

参数

  • units: 正整数,输出空间的维度。
  • activation: 要使用的激活函数。默认值:双曲正切 (tanh)。如果传入 None,则不应用激活(即:“线性”激活:a(x) = x)。
  • use_bias: 布尔值(默认值 True),表示该层是否使用偏置向量。
  • kernel_initializer: kernel 权重矩阵的初始化器,用于输入的线性变换。默认值:glorot_uniform
  • recurrent_initializer: recurrent_kernel 权重矩阵的初始化器,用于循环状态的线性变换。默认值:orthogonal
  • bias_initializer: 偏置向量的初始化器。默认值:zeros
  • kernel_regularizer: 应用于 kernel 权重矩阵的正则化函数。默认值:None
  • recurrent_regularizer: 应用于 recurrent_kernel 权重矩阵的正则化函数。默认值:None
  • bias_regularizer: 应用于偏置向量的正则化函数。默认值:None
  • activity_regularizer: 应用于层输出(其“激活”)的正则化函数。默认值:None
  • kernel_constraint: 应用于 kernel 权重矩阵的约束函数。默认值:None
  • recurrent_constraint: 应用于 recurrent_kernel 权重矩阵的约束函数。默认值:None
  • bias_constraint: 应用于偏置向量的约束函数。默认值:None
  • dropout: 0 到 1 之间的浮点数。输入线性变换中要丢弃的单元比例。默认值:0。
  • recurrent_dropout: 0 到 1 之间的浮点数。循环状态线性变换中要丢弃的单元比例。默认值:0。
  • return_sequences: 布尔值。是返回输出序列中的最后一个输出,还是返回完整序列。默认值:False
  • return_state: 布尔值。除了输出之外,是否返回最后一个状态。默认值:False
  • go_backwards: 布尔值(默认值 False)。如果为 True,则向后处理输入序列并返回反向序列。
  • stateful: 布尔值(默认值 False)。如果为 True,则上一批次中索引 i 处每个样本的最后一个状态将用作下一批次中索引 i 处样本的初始状态。
  • unroll: 布尔值(默认值 False)。如果为 True,网络将被展开,否则将使用符号循环。展开可以加速 RNN,但往往更耗内存。展开仅适用于短序列。

调用参数

  • inputs: 3D 张量,形状为 [batch, timesteps, feature]
  • mask: 形状为 [batch, timesteps] 的二元张量,指示是否应屏蔽给定时间步。单个 True 条目表示应利用相应时间步,而 False 条目表示应忽略相应时间步。
  • training: Python 布尔值,指示该层应在训练模式还是推断模式下运行。此参数在调用 cell 时传递给它。仅当使用 dropoutrecurrent_dropout 时才相关。
  • initial_state: 要传递给 cell 的首次调用的初始状态张量列表。

示例

inputs = np.random.random([32, 10, 8]).astype(np.float32)
simple_rnn = tf.keras.layers.SimpleRNN(4)

output = simple_rnn(inputs)  # The output has shape `[32, 4]`.

simple_rnn = tf.keras.layers.SimpleRNN(
    4, return_sequences=True, return_state=True)

# whole_sequence_output has shape `[32, 10, 4]`.
# final_state has shape `[32, 4]`.
whole_sequence_output, final_state = simple_rnn(inputs)