Keras 3 API 文档 / 层 API / 正则化层 / AlphaDropout 层

AlphaDropout 层

[源代码]

AlphaDropout

keras.layers.AlphaDropout(rate, noise_shape=None, seed=None, **kwargs)

对输入应用 Alpha Dropout。

Alpha Dropout 是一种 Dropout,它保持输入的均值和方差为其原始值,以确保即使在 dropout 之后也具有自归一化特性。Alpha Dropout 非常适合缩放指数线性单元 (SELU),通过随机将激活设置为负饱和值。

参数

  • rate: 0 到 1 之间的浮点数。乘性噪声的标准差为 sqrt(rate / (1 - rate))
  • noise_shape: 1D 整数张量,表示将与输入相乘的二元 alpha dropout 掩码的形状。例如,如果您的输入形状为 (batch_size, timesteps, features) 并且您希望 alpha dropout 掩码对于所有时间步都相同,则可以使用 noise_shape=(batch_size, 1, features)
  • seed: 用作随机种子的 Python 整数。

调用参数

  • inputs: 输入张量(任意秩)。
  • training: Python 布尔值,指示该层应在训练模式下运行(添加 alpha dropout)还是在推理模式下运行(不执行任何操作)。