Keras 3 API 文档 / 层 API / 正则化层 / AlphaDropout 层

AlphaDropout 层

[源代码]

AlphaDropout

keras.layers.AlphaDropout(rate, noise_shape=None, seed=None, **kwargs)

将 Alpha Dropout 应用于输入。

Alpha Dropout 是一种 Dropout,它将输入的均值和方差保持在原始值,以确保即使在该 Dropout 之后也保持自归一化属性。Alpha Dropout 很适合与缩放指数线性单元 (SELU) 相结合,通过随机将激活设置为负饱和值。

参数

  • rate: 0 到 1 之间的浮点数。乘性噪声将具有标准差 sqrt(rate / (1 - rate))
  • noise_shape: 表示与输入相乘的二元 alpha dropout 掩码形状的 1 维整数张量。例如,如果您的输入形状为 (batch_size, timesteps, features) 并且您希望 alpha dropout 掩码对于所有时间步长都相同,您可以使用 noise_shape=(batch_size, 1, features)
  • seed: 用作随机种子的 Python 整数。

调用参数

  • inputs: 输入张量(任何秩)。
  • training: Python 布尔值,指示层应在训练模式(添加 alpha dropout)下运行还是在推理模式(不执行任何操作)下运行。