Keras 3 API 文档 / KerasTuner / 预言机 / 贝叶斯优化预言机

贝叶斯优化预言机

[来源]

BayesianOptimizationOracle

keras_tuner.oracles.BayesianOptimizationOracle(
    objective=None,
    max_trials=10,
    num_initial_points=None,
    alpha=0.0001,
    beta=2.6,
    seed=None,
    hyperparameters=None,
    allow_new_entries=True,
    tune_new_entries=True,
    max_retries_per_trial=0,
    max_consecutive_failed_trials=3,
)

贝叶斯优化预言机。

它使用基于高斯过程模型的贝叶斯优化。使用的采集函数是上置信界 (UCB),可以在这里找到 此处

参数

  • objective:字符串,keras_tuner.Objective 实例,或 keras_tuner.Objective 和字符串的列表。如果为字符串,则优化方向(最小化或最大化)将被推断。如果为 keras_tuner.Objective 的列表,我们将最小化所有目标的总和,减去所有目标的总和以最大化。当 Tuner.run_trial()HyperModel.fit() 返回单个浮点数作为要最小化的目标时,objective 参数是可选的。
  • max_trials:整数,最多测试的试验(模型配置)总数。请注意,如果搜索空间已用尽,则预言机可能会在测试 max_trial 个模型之前中断搜索。默认为 10。
  • num_initial_points:可选的随机生成的样本数,作为贝叶斯优化的初始训练数据。如果未指定,则使用超参数空间维数的 3 倍的值。
  • alpha:浮点数,拟合过程中添加到核矩阵对角线上的值。它表示贝叶斯优化中观察到的性能中预期的噪声量。默认为 1e-4。
  • beta:浮点数,探索和利用的平衡因子。它越大,探索性就越强。默认为 2.6。
  • seed:可选整数,随机种子。
  • hyperparameters:可选的 HyperParameters 实例。可用于覆盖(或预先注册)搜索空间中的超参数。
  • tune_new_entries:布尔值,是否应将超模型请求但未在 hyperparameters 中指定的超参数条目添加到搜索空间中。如果不是,则将使用这些参数的默认值。默认为 True。
  • allow_new_entries:布尔值,是否允许超模型请求 hyperparameters 中未列出的超参数条目。默认为 True。
  • max_retries_per_trial:整数。默认为 0。如果试验崩溃或结果无效,则重试 Trial 的最大次数。
  • max_consecutive_failed_trials:整数。默认为 3。连续失败的 Trial 的最大数量。达到此数量时,搜索将停止。当没有一个重试成功时,Trial 被标记为失败。