BatchBALD Acquisition Function

BatchBALD Acquisition Function

引言

BatchBALD（2019）的Acquisition的公式和我读过"Simulation-based optimal Bayesian experimental design for nonlinear systems"（2013）中的效益函数近乎一模一样，但是计算方式不同。主动学习说白了就是理论统计中的贝叶斯实验设计在深度学习领域的应用，就如同“学习”二字比之于“参数估计”，说的是一个东西。

1.Acquisition Function

Acquisition function用于评判一组样本的好坏。值越高，说明样本越好。BatchBALD中采用互信息来表征，其思想是：给定一组样本，使得标签Label与待估计参数之间的互信息越大，则说明样本的价值越大。

2.计算

计算还是采用蒙特卡洛估计。下面的$y$是随机向量，忽略条件推导（不影响结果）。$w$是定值，然后对$w$求了期望。实际上就是下面的表达式。
$$\begin{array}{r}I(y,\omega )=H(y)-E_{p(\omega )}H(y|\omega )\end{array}$$
其中，利用蒙特卡洛采样，第二项的表达为：
$$\sum _{j=1}^{k}H(y|{\omega }_j)$$
各个维度$y_i$在给定$w$时是条件独立的，可以进一步分开求和，得到论文中的表达式。

第一项相较第二项来说稍有困难，因为第二项中的$p(y_i|{\omega }_j)$是可以计算的，进而可以计算熵。然而第一项的$p(y)$没有表达式，导致熵不能计算。利用技巧$p(y)={\int }_{\omega }p(y|\omega )p(\omega )d\omega$将其转化为期望，此时，表达式就可以改写成为
$$\begin{array}{rl}I(y,\omega )& =H(y)\\ & =-{\int }_{y}p(y)\log p(y)dy\\ & ={\int }_y{\int }_{\omega }p(y|\omega )p(\omega )[\log {\int }_{\omega }p(y|\omega )p(\omega )d\omega ]d\omega dy\\ & ={\int }_y\frac{1}{k}\sum _{j=1}^{k}p(y|{\omega }_j)[log\frac{1}{k}\sum _{j=1}^{k}p(y|{\omega }_j)]dy\\ & =\sum _y\frac{1}{k}\sum _{j=1}^{k}p(y|{\omega }_j)[log\frac{1}{k}\sum _{j=1}^{k}p(y|{\omega }_j)]\end{array}$$
最后一步是对所有可能的$y$求和，这是由于$y$是离散型随机变量（分类问题）。对于连续随机变量，我还是推荐2013年的文章的方法。