【Ablation Studies 理解】深度学习模型组件的对比实验/性能分析

Ablation Study 用于检测深度学习/机器学习模型中各部分构件对于整体的重要性。
可以理解为为：组件\tricks重要性测试、组件性能系统性分析、控制变量法、组件去除对比实验、性能敏感性测试、性能因子分析等

Ablation Studies

一些新颖的深度学习模型在论文中都会进行AblationStudy，这部分的主要意义在于系统性的移除模型中的各种组件/trick等因子或者是创新的方法，来探究各个因素对于模型整体贡献的强弱多寡, 找到对性能最主要的影响因素。

---

例如在这篇论文中:

作者就针对自己提出的跳接层、特征注意力机制来分别进行研究，并分析了两种方法对于网络性能的重要性：

可以看到四种关键组件进行了9中不同的组合，在没有任何创新加入的时候，模型的PSNR只有28.45，而长跳接提升了0.33，短跳接提升了0.36，长短链接一起提升了0.41；而特征注意力则单独共享了0.06，与长链接配合提升了0.4（这一看到了长链接更重要的作用了），倒数第二列则与长短跳接结合，得到了0.55的提升，说明长短跳接组合比长链接好。最后再加上长连接又提升了0.06。

---

所以从消融性分析/组件性能测试中，可以控制各个潜在的影响因素，以观察他们对于整体表现的影响，并从中找出最为重要的提升组件。同时也可以为你找出一些对模型性能影响微乎其微的模块，以便简化模型提高效率。

---

ref:
https://www.quora.com/In-the-context-of-deep-learning-what-is-an-ablation-study
https://blog.csdn.net/Julialove102123/article/details/88996478
https://www.jianshu.com/p/2ba896c1a306
https://www.zhihu.com/question/60170398

pic from pexels.com