本文探讨了一篇关于Wavelet Pooling在卷积神经网络中的应用论文，指出其两次小波变换加逆变换的必要性存疑，并与average pooling进行对比。作者发现使用Haar小波基时，Wavelet Pooling与average pooling效果相似，提出仅进行一次小波变换的简化方案。此外，论文选择不同小波基以避免这一问题。作者尝试与原作者沟通，但未得到明确答复，期待进一步讨论。
本文主要针对Wavelet pooling for convolutional neural networks，ICLR 2018. 简而言之，我认为这篇文章存在一些问题，当然可能是自己理解有误。于是把自己的看法分享出来，希望各位批评指正。
论文地址：
Wavelet Pooling for Convolutional Neural Networksopenreview.net论文讲了什么？
首先，池化是以舍弃信息来实现正则化的效果。传统的池化操作有问题。max pooling, average pooling和probabilistic pooling都有一些局限性。例如，当主要的特征幅度值低于不重要的特征时，重要的特征在max pooling中就丢失了。而average pooling接收了幅值大的特征和幅值小的特征，会稀释幅值大的特征。具体如图所示，
于是相对于traditional neighborhood pooling，这篇文章从wavelet domain进行操作。具体来说，首先介绍了如何变换到wavelet domain，
最低0.47元/天 解锁文章
扫一扫
1919
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
