PiecewiseConstantDecay

[源代码]

PiecewiseConstantDecay 类

keras.optimizers.schedules.PiecewiseConstantDecay(
    boundaries, values, name="PiecewiseConstant"
)

一个使用分段常数衰减调度的 LearningRateSchedule。

此函数返回一个接受一个参数的可调用对象，用于在传入当前优化器步数时计算分段常数。这对于在优化器函数的不同调用中改变学习率值很有用。

示例

使用一个学习率：前 100001 步为 1.0，接下来的 10000 步为 0.5，剩余步数为 0.1。

step = ops.array(0)
boundaries = [100000, 110000]
values = [1.0, 0.5, 0.1]
learning_rate_fn = keras.optimizers.schedules.PiecewiseConstantDecay(
    boundaries, values)

# Later, whenever we perform an optimization step, we pass in the step.
learning_rate = learning_rate_fn(step)

你可以将此调度器直接作为学习率传递给 keras.optimizers.Optimizer。学习率调度器也可以使用 keras.optimizers.schedules.serialize 和 keras.optimizers.schedules.deserialize 进行序列化和反序列化。

参数

• boundaries：一个包含严格递增条目的 Python 数字列表，所有元素的类型必须与优化器步数的类型相同。
• values：一个 Python 数字列表，指定由 boundaries 定义的区间的值。它应该比 boundaries 多一个元素，且所有元素的类型应相同。
• name：一个字符串。操作的可选名称。默认为 "PiecewiseConstant"。

返回

一个接受一个参数的可调用学习率调度器，该调度器接收当前优化器步数，并输出衰减后的学习率，其是一个与边界张量类型相同的标量张量。

接受 step 作为参数的单参数函数的输出是：当 step <= boundaries[0] 时为 values[0]；当 step > boundaries[0] 且 step <= boundaries[1] 时为 values[1]；...；当 step > boundaries[-1] 时为 values[-1]。

抛出异常

• ValueError：如果 boundaries 和 values 列表中的元素数量不匹配。