python - TPE(来自 Optuna)是否考虑试验次数？

Question

我正在使用 optuna 的 TPE 采样器来优化深度学习视觉模型的超参数。 我想知道 optuna 是否根据试验次数来调整搜索。

如果我训练 1000 次试验并在 500 次停止，我可以看到算法没有尝试许多参数。 如果我减少 n_trials，TPE 探索是否会更快(并且不太精确)？ 换句话说，使用 n_step=1000 在 500 处中断 optuna 与使用 n_trials = 500 并等待结束相同。

我对 TPE 的工作原理只有基本了解。

谢谢。

Answer 1

If I reduce n_trials, does TPE explore faster (and less precisely)?

没有。

... is interupting optuna at 500 with n_step=1000 the same as using n_trials = 500 and waiting until the end.

是的。

这是因为 TPE(来自 Optuna)不知道剩余(或总)试验的数量。