神经网络(十一)卷积运算DLC

卷积,主要用于信号的延迟累积,其输出结果是当前时刻产生的信息之前时刻的延迟信息的叠加

        如:y_t=1 \times x_t+\frac{1}{2}\times x_{t-1}+\frac{1}{4}\times x_{t-2}

一、一维卷积

        y_t=\sum_{k=1}^Kw_kx_{t-k+1}

        实质是w_k滤波器(或称卷积核)与信号的卷积; t为时刻,K为滤波器长度(总长)

                实质上,单次的卷积运算可以定义为:y=w*x

                        *为卷积计算,数学上使用傅立叶变化,神经网络中一般转换为矩阵相乘

                滤波器一般表达为w=[k_1,k_2,...k_n],卷积相当于信号进行加权平移

                ①例如滤波器为w=[1,-2,1] 时,实现对信号序列的二阶微分为

                         {x}''(t)=x(t+1)+x(x-1)-2x(t)

                ②又如滤波器为w=[\frac{1}{3},\frac{1}{3},\frac{1}{3}] 能检测低频信号,w=[1,-2,1] 能检测高频信号

二、二维卷积

        y_{ij}=\sum_{u=1}^U\sum_{v=1}^V w_{uv}x_{i-u+1,j-v+1}

        可以将净输入视为图像上的一个(坐标为 i , j ),与滤波器 w 进行卷积Y=W*X

        图例如下:

        一般在处理图像的时候使用均值滤波,既当前图片的像素平均w_{uv}=\frac{1}{UV}

        图像进过卷积操作的结果被称为特征映射

三、互相关

        通过互相关操作来代替卷积核翻转,以减少不必要的运算开销。一般通过滑动窗口的点积来实现。

        对于给定的图像X和卷积核W,其互相关为

                y_{ij}=\sum_{u=1}^U\sum_{v=1}^Vw_{uv}x_{i+u-1,j+v-1}        等价于        Y=W\otimes X=rot180(W)*X

                        其中rot180代表旋转180°

        1.卷积变种

                通过引入滑动步长零填充来增加卷积的多样性

                        滑动步长:卷积核滑动时的间隔

                        零填充:在向量两端补0

                 卷积变种的类型:

                        ①窄卷积:步长S=1,两端不补零P=0,输出长度为M-K+1

                        ②宽卷积:步长S=1,两端补零P=K-1,输出长度为M+K-1

                        ③等宽卷积:步长S=1,两端补零P=(K-1)/2,输出长度M

        2.卷积的数学性质

                ①交换性

                        W \widetilde{\otimes }X\overset{\Delta}{=}W \otimes \widetilde{X}        rot180(W)\widetilde{\otimes }X=rot180(X)\widetilde{\otimes }W

                ②导数

                        \frac{\partial f(Y)}{\partial X}=rot180(\frac{\partial f(Y)}{\partial Y})\widetilde{\otimes}W=rot180(W)\widetilde{\otimes}\frac{\partial f(Y)}{\partial Y}​​​​​​​

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值