Keras 3 API文档 / 层 API / 正则化层 / AlphaDropout 层

AlphaDropout 层

[源代码]

AlphaDropout

keras.layers.AlphaDropout(rate, noise_shape=None, seed=None, **kwargs)

将 Alpha Dropout 应用于输入。

Alpha Dropout 是一种 Dropout,它可以保持输入的均值和方差不变,以确保即使在此 dropout 之后也能保持自归一化特性。Alpha Dropout 通过随机将激活值设置为负饱和值,与缩放指数线性单元 (SELU) 非常契合。

参数

  • rate:0 到 1 之间的浮点数。乘法噪声的标准差将是 sqrt(rate / (1 - rate))
  • noise_shape:一个一维整数张量,表示将要乘以输入的二元 alpha dropout 掩码的形状。例如,如果输入的形状是 (batch_size, timesteps, features),并且您希望 alpha dropout 掩码对所有时间步都相同,则可以使用 noise_shape=(batch_size, 1, features)
  • seed: 用作随机种子的 Python 整数。

调用参数

  • inputs:输入张量(任何秩)。
  • training:一个 Python 布尔值,指示层是应该处于训练模式(添加 alpha dropout)还是推理模式(什么都不做)。