Keras 3 API 文档 / 层 API / 正则化层 / AlphaDropout 层

AlphaDropout 层

[来源]

AlphaDropout

keras.layers.AlphaDropout(rate, noise_shape=None, seed=None, **kwargs)

将 Alpha Dropout 应用于输入。

Alpha Dropout 是一种 Dropout,它保持输入的均值和方差为其原始值,以确保即使在 dropout 之后仍保持自归一化属性。Alpha Dropout 非常适合缩放指数线性单元 (SELU),通过随机将激活设置为负饱和值。

参数

  • rate: 介于 0 和 1 之间的浮点数。乘性噪声的标准差将为 sqrt(rate / (1 - rate))
  • noise_shape: 1D 整数张量,表示将与输入相乘的二元 alpha dropout 掩码的形状。例如,如果您的输入形状为 (batch_size, timesteps, features) 并且您希望 alpha dropout 掩码对于所有时间步都相同,则可以使用 noise_shape=(batch_size, 1, features)
  • seed: 用作随机种子的 Python 整数。

调用参数

  • inputs: 输入张量(任意秩)。
  • training: Python 布尔值,指示层应在训练模式(添加 alpha dropout)还是推理模式(不执行任何操作)下运行。