卷积的特点之一---------参数共享

参数共享是卷积神经网络(CNN)的一个关键特性,它通过在整个输入空间中重复使用相同的卷积核(滤波器)来降低模型的复杂性和提高学习效率。以下是一个详细的例子,以帮助理解这一概念。

例子:边缘检测

假设我们有一张 5×5 的灰度图像,表示如下:

[
 [0, 0, 0, 0, 0],
 [0, 1, 1, 1, 0],
 [0, 1, 0, 1, 0],
 [0, 1, 1, 1, 0],
 [0, 0, 0, 0, 0]
]

我们想要使用一个卷积核来进行边缘检测。假设我们使用的卷积核是一个 3×3 的矩阵,用于检测水平边缘,定义如下:

[
 [1, 1, 1],
 [0, 0, 0],
 [-1, -1, -1]
]

卷积操作

  1. 卷积过程:卷积核会在图像上滑动,计算卷积操作。以卷积核左上角与图像左上角对齐为例,计算如下:

    (0 * 1 + 0 * 1 + 0 * 1) +
    (0 * 0 + 1 * 0 + 1 * 0) +
    (0 * -1 + 1 * -1 + 0 * -1) = 0 + 0 + (-1) = -1
    
  2. 重复使用卷积核:接下来,卷积核会以相同的方式滑动到图像的其他部分。例如,当卷积核移动到中间区域时:

    (1 * 1 + 1 * 1 + 1 * 1) +
    (1 * 0 + 0 * 0 + 1 * 0) +
    (1 * -1 + 1 * -1 + 1 * -1) = 3 + 0 + (-3) = 0
    
  3. 输出特征图:最终,这个卷积操作将生成一个新的特征图,捕捉了输入图像中的边缘信息。假设特征图如下:

[
 [-1,  0,  1],
 [ 0,  0,  0],
 [ 1,  0, -1]
]

参数共享的优势

  • 同一卷积核的重复使用:在整个图像上,卷积核的权重(参数)保持不变。这意味着同一组权重(1,1,1,0,0,0,−1,−1,−11, 1, 1, 0, 0, 0, -1, -1, -11,1,1,0,0,0,−1,−1,−1)被多次应用,捕捉不同位置的相同特征(如边缘)。

  • 减少参数数量:如果我们使用全连接层,图像的每个像素都需要一个独立的权重,这将导致巨大的参数数量。而通过参数共享,CNN可以用较少的参数来学习更多的特征。

  • 提高模型泛化能力:由于卷积核在所有位置共享参数,模型能够学习到更具一般性的特征,而不是依赖于特定位置的特征,从而提高了泛化能力。

总结

参数共享使得卷积神经网络能够在处理高维数据(如图像)时,减少所需存储的参数数量,提高学习效率,并增强模型的泛化能力。这是CNN在计算机视觉任务中表现优异的一个重要原因。

核心

在整个图像上,卷积核的权重(参数)保持不变。这意味着同一组权重(1,1,1,0,0,0,−1,−1,−11, 1, 1, 0, 0, 0, -1, -1, -11,1,1,0,0,0,−1,−1,−1)被多次应用,捕捉不同位置的相同特征(如边缘)。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值