消融实验(ablation experiment)
在机器学习,特别是复杂的深度神经网络的背景下,已经采用“消融研究”来描述去除网络的某些部分的过程,以便更好地理解网络的行为。
为了提升网络的性能,在网络架构上加了模块A,B。是这篇文章的创新点。
比如说这篇文章有3个亮点,消融实验就负责告诉你,实验1:我只加a结果如何;实验2:只加b结果如何;实验3:a和b都加了又如何。
看3个实验的效果,然后结果可能是,实验1和实验2的结果都不如实验3,那么说明AB都是有用的;
然而也有可能你会发现实验1的结果和实验3一样,甚至更好。这就说明你的想法是有问题的,模块B其实并没有起到作用,提升只来自于模块A。
简单和复杂的方法都能达到同样的效果,选择简单的方法。