贝叶斯优化(BayesianOptimization)

贝叶斯优化

  这篇blog参考github上一个基于高斯过程回归的贝叶斯优化开源项目(python)：https://github.com/fmfn/BayesianOptimization

---

贝叶斯优化器的介绍

  贝叶斯优化在不知道目标函数（黑箱函数）长什么样子的情况下，通过猜测黑箱函数长什么样，来求一个可接受的最大值。和网格搜索相比，优点是迭代次数少(节省时间)，粒度可以到很小，缺点是不容易找到全局最优解。
  贝叶斯优化流程图如下：

  贝叶斯优化有两个核心过程，先验函数(Prior Function,PF)与采集函数(Acquisition Function,AC)，采集函数也可以叫效能函数(Utility Funtcion)，但一般还是称呼为采集函数，见下面引用论文A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning的话。PF主要利用高斯过程回归(也可以是其它PF函数，但高斯过程回归用的多)；AC主要包括EI，PI，UCB这几种方法，同时exploration与exploitation的平衡，也是通过AC来完成的。

The process of deciding where to sample next requires the choice of a utility function…To make clear which function we are discussing, we will refer to this utility as the acquisition function (also sometimes called the infill function)

---

采集函数(Acquisition Function,AC)

  常见的采集函数有下面三种，UCB，PI，EI，先介绍最好理解的UCB。

UCB(Upper confidence bound)

  $UCB=\mu (x)+k\sigma (x)$，k为调节参数，直观地理解为上置信边界。

PI(probability of improvement)

  $PI(x)=P(f(x)\ge f(x^{+})+\upsilon )=\Phi (\frac{\mu (x)-f(x^{+})-\upsilon }{\sigma (x)})$
  超参数$\upsilon$用于调节exploitation与exploitation，$\upsilon =0$更倾向于收敛到$f(x^{+})附近，$
Φ ( ⋅ ) 表 示 正 态 累 计 分 布 函 数 ， f ( x + ) 表