统计计算第八节课，Mante Calor方法（五）——自适应法

这是我上的统计计算课讲的主要内容，写在这可以互相交流，有些地方我不是很理解的会标出来（用加粗斜体*标出），求大佬在留言处表达自己的看法，另外如果有啥问题也可以在留言处留言，如果我看到了会回复

这次主要是说一些想法和纲要之类的东西，没有具体的算法

背景
之前（四）中我们已经提到了调超参是一件比较麻烦的事情，当然如果你对目标分布比较熟悉，很有调超参的经验的话，这一节对你没啥用，因为手动调参调到极致时，算法表现出的效果通常比自适应法好，但如果不是这样，那么这节的想法可以会帮助你找到较好的超参

很笼统的步骤
通过刚才的描述，我们可以把自适应法看作超参的优化问题，于是基本步骤就比较好找了
step1：确定参数空间，通常根据实际可能取值或者你认为最优超参数可能在的区域来确定参数空间
step2：确定评估准则，目前提到的有接受概率，ESS，没有提到的有$ESJD=\frac{E|X_{t+1}-X_t{|}^2}{\sqrt{L}}$
step3：确定更新规则，要求在提出的准则下变优，且最后要收敛，更新规则的选择就很灵活，很复杂，一般的更新方法是类似${\theta }_{n+1}={\theta }_n+{\alpha }_{n+1}f(x_{n+1}-{\theta }_n)$的式子

确实这次讲的东西有点没用，不过至此MCMC方法快接近尾声了（累死）