ReLU 层

[源代码]

ReLU

keras.layers.ReLU(max_value=None, negative_slope=0.0, threshold=0.0, **kwargs)

修正线性单元激活函数层。

公式

f(x) = max(x,0)
f(x) = max_value if x >= max_value
f(x) = x if threshold <= x < max_value
f(x) = negative_slope * (x - threshold) otherwise

示例

relu_layer = keras.layers.ReLU(
    max_value=10,
    negative_slope=0.5,
    threshold=0,
)
input = np.array([-10, -5, 0.0, 5, 10])
result = relu_layer(input)
# result = [-5. , -2.5,  0. ,  5. , 10.]

参数

  • max_value: 浮点数 >= 0。最大激活值。None 表示无限制。默认为 None
  • negative_slope: 浮点数 >= 0。负斜率系数。默认为 0.0
  • threshold: 浮点数 >= 0。阈值激活的阈值。默认为 0.0
  • **kwargs: 基础层关键字参数,例如 namedtype