原文:https://mp.weixin.qq.com/s/vmYWYUFa56eC-yUFiSqR0w
从网上搜索看,很多人理解“卷积”是困难的。“卷积”这个词,就吓住了很多人。
图1 从网上搜索看,很多人理解“卷积”是困难的
有2个原因:
第一,汉语其他地方几乎从不用“卷积”这个词,所以中国人无法理解字面含义;
第二,很多人熟记卷积的公式、在工作中经常使用,但是并不理解卷积的实质含义。
理解卷积(Convolution),是理解卷积神经网络(CNN:Convolutional Neural Network)的关键。也是让我们理解,为什么最近9年(2012-2021),人类最厉害的人工智能算法卷积神经网络,其实只是计算加权平均。
理解卷积的词义
卷积是英文convolution的翻译,convolution的英文释义是盘绕,弯曲(a twist or curve)。
图2 Convolution的英文释义
为了便于理解英文convolution,我们可以和revolution对比:
“revolution”的词根re是“重新”的意思,revolution就是通过“重新创造”带来的变化,即革命、巨变;
苹果重新定义手机即Apple reinvents the phone,即re就是强调“全新”的意思。
“Convolution”的词根con是“共同”的意思,即本质不变,但通过转动、旋转、扭曲和弯曲带来的变化。
不同于中文,在英语中,convolution是一个可以被用于日常表达,如crosses adorned with elaborate convolutions,用精巧的曲线装饰的十字架。
如果“revolution”被翻译为“革变”,那“convolution”可以翻译为“卷变”。
所以,“convolution”引申为,本质不变,但是通过“变换”而带来的变化。记住了这个本质词义,后面对于“convolution”的各种花式变种,才会坦然接受,不再疑惑。
Convolution的中文翻译是“卷积”,但卷积这个词在现代汉语当中,几乎不在其他地方使用,所以直接理解词义几乎是不可能的。
“卷”和convolution有关系的,但是“积”就没有什么关系了。我们推测,卷积这个中文翻译,是对卷积的数学公式做了“形式化”的解读,我们可以简单理解,卷积就是卷起来的乘积,可以理解为累加或叠加(对连续函数为积分)起来的乘积。
连续形式:
离散形式:
(函数f和函数g的卷积的计算公式,是累加(或积分)起来的乘积)
可以说,正是因为“卷积”这个中文翻译丢掉了“convolution”最本质的词义“本质不变的变换”,而是和具体的计算公式进行绑定,所以,给中国人理解,带来了很大困扰。
这导致很多网上解释“卷积”的文章,都是对这个数学公式的形式进行解读,其实是颠倒了因果。
卷积实质上是对信号进行滤波
我们在大学课本里面就学习过卷积,主要是在《信号系统》当中。当一个信号经过一个系统之后,产生的输出,实际上就是这个输入x(n)和系统的冲击响应h(n)的卷积。
图3 系统的框图
延伸阅读:当然,这里要求系统是线性时不变系统(Linear Time-Invariant System),但大家可以不用关注这个,因为我们绝大部分时间只讨论这样的系统。
延伸阅读:这里只需要理解,系统的特性,完全由冲击响应h(n)完整描述了即可。冲击响应在物理世界并不存在,但是它是直接解释卷积公式的关键,见本文附录。详见参考资料[3]的第二章。
系统定义为处理(或变换)信号的物理设备。或者进一步说,凡是能将信号加以变换以达到人们要求的各种设备都是系统[1]。
信号处理是研究用系统