贝叶斯优化方法和应用

贝叶斯目前的理解就是用一个概率代理模型去拟合实际模型的概率分布，实际模型可以是目标函数表达式未知、非凸、多峰和评估代价高昂的复杂优化问题。使用概率代理模型不断评估带有噪声（噪声就是因为这是个代理模型而不是实际模型）的目标函数值，再不断更新新的集合，去得到新的评估点（评估点就是要优化的参数），再用新的评估点和代理模型评估目标函数值。

贝叶斯优化算法框架：

常见的概率代理函数：

常见采集函数：

参考：

[1]崔佳旭,杨博.贝叶斯优化方法和应用综述[J].软件学报,2018,29(10):3068-3090.DOI:10.13328/j.cnki.jos.005607.

[2] 贝叶斯优化的三种实现 - 搜索 (bing.com)