用概率模型选择下一次评估的优化方法。
贝叶斯优化像抓娃娃先看爪劲:币不多,边试边估,下一把押最有戏的位置。
用于调超参数和昂贵实验,用更少尝试找好结果。
Hyperparameter Optimization
贝叶斯优化常用于超参数搜索,少训几次也能找到好配置。
Gaussian Process
高斯过程常当代理模型,估计哪里值得下一试。
Exploration-Exploitation Tradeoff
它用概率不确定性,在探索和利用之间做取舍。
Optimization
它是黑盒优化方法,适合单次评估很贵的问题。