GRU
类keras.layers.GRU(
units,
activation="tanh",
recurrent_activation="sigmoid",
use_bias=True,
kernel_initializer="glorot_uniform",
recurrent_initializer="orthogonal",
bias_initializer="zeros",
kernel_regularizer=None,
recurrent_regularizer=None,
bias_regularizer=None,
activity_regularizer=None,
kernel_constraint=None,
recurrent_constraint=None,
bias_constraint=None,
dropout=0.0,
recurrent_dropout=0.0,
seed=None,
return_sequences=False,
return_state=False,
go_backwards=False,
stateful=False,
unroll=False,
reset_after=True,
use_cudnn="auto",
**kwargs
)
门控循环单元 - Cho 等人,2014 年。
根据可用的运行时硬件和约束条件,此层将选择不同的实现(基于 cuDNN 或后端原生)以最大限度地提高性能。如果 GPU 可用且层的所有参数都满足 cuDNN 内核的要求(有关详细信息,请参见下文),则层在使用 TensorFlow 后端时将使用快速的 cuDNN 实现。
使用 cuDNN 实现的要求是
activation
== tanh
recurrent_activation
== sigmoid
dropout
== 0 且 recurrent_dropout
== 0unroll
为 False
use_bias
为 True
reset_after
为 True
GRU 实现有两种变体。默认实现基于 v3,并在矩阵乘法之前将重置门应用于隐藏状态。另一个变体基于 原始 版本,并且顺序相反。
第二种变体与 CuDNNGRU(仅限 GPU)兼容,并允许在 CPU 上进行推理。因此,它对 kernel
和 recurrent_kernel
具有独立的偏差。要使用此变体,请设置 reset_after=True
和 recurrent_activation='sigmoid'
。
例如
>>> inputs = np.random.random((32, 10, 8))
>>> gru = keras.layers.GRU(4)
>>> output = gru(inputs)
>>> output.shape
(32, 4)
>>> gru = keras.layers.GRU(4, return_sequences=True, return_state=True)
>>> whole_sequence_output, final_state = gru(inputs)
>>> whole_sequence_output.shape
(32, 10, 4)
>>> final_state.shape
(32, 4)
参数
tanh
)。如果您传递 None
,则不应用任何激活(即“线性”激活:a(x) = x
)。sigmoid
)。如果您传递 None
,则不应用任何激活(即“线性”激活:a(x) = x
)。True
),层是否应使用偏差向量。kernel
权重矩阵的初始化器,用于输入的线性变换。默认:"glorot_uniform"
。recurrent_kernel
权重矩阵的初始化器,用于循环状态的线性变换。默认:"orthogonal"
。"zeros"
。kernel
权重矩阵的正则化器函数。默认:None
。recurrent_kernel
权重矩阵的正则化器函数。默认:None
。None
。None
。kernel
权重矩阵的约束函数。默认:None
。recurrent_kernel
权重矩阵的约束函数。默认:None
。None
。False
。False
。False
)。如果 True
,则反向处理输入序列并返回反向序列。False
)。如果 True
,则批次中索引 i 的每个样本的最后一个状态将用作下一批中索引 i 的样本的初始状态。False
)。如果 True
,则网络将展开,否则将使用符号循环。展开可以加速 RNN,但往往会更占内存。展开仅适用于短序列。False
为 "before"
,True
为 "after"
(默认值,与 CuDNN 兼容)。"auto"
将尝试在可行的情况下使用 cuDNN,如果不可行,则将回退到默认实现。调用参数
(batch, timesteps, feature)
。(samples, timesteps)
的二元张量,指示是否应屏蔽给定的时间步长(可选)。单个 True
条目表示应使用对应的时间步长,而 False
条目表示应忽略对应的时间步长。默认为 None
。dropout
或 recurrent_dropout
时才相关(可选)。默认为 None
。None
将导致创建零填充的初始状态张量)。默认为 None
。