卷积核权值初始化_卷积神经网络(CNN)训练中卷积核初始化方法研究

卷积神经网络

(CNN)

训练中卷积核初始化方法研究

朱继洪

裴继红

赵

阳

【摘

要】

本文提出了一种基于样本图像局部模式聚类的卷积核初始化方法

,

该

方法可用于卷积神经网络

(Convolutional

neural

network,

CNN)

训练中卷积

核的初始化。在卷积神经网络中

,

卷积核的主要作用可看成是利用匹配滤波提取

图像中的局部模式

,

并将其作为后续图像目标识别的特征。为此本文在图像训练

集中选取一部分典型的样本图像

,

在这些图像中抽取与卷积核相同大小的子图作

为图像局部模式矢量集合。首先对局部模式子图集合应用拓扑特性进行粗分类

,

然后对粗分类后的每一子类采用势函数聚类的方法获取样本图像中的典型局部

模式子图

,

构成候选子图模式集

,

用它们作为

CNN

的初始卷积核进行训练。实验

结果表明

,

本文方法可以明显加速

CNN

网络训练初期的收敛速度

,

同时对最终训

练后的网络识别精度也有一定程度的提高。

【期刊名称】

信号处理

【年

(

卷

),

期】

2019(035)004

【总页数】

8

【关键词】

卷积神经网络

;

卷积核初始化

;

图像局部模式

;

聚类

引用格式

:

朱继洪

,

裴继红

,

赵阳

.

卷积神经网络

(CNN)

训练中卷积核初始化方法

研

究

[J].

信

号

处

理

,

2019,

35(4):

641-648.

DOI:

10.16798/j.issn.1003-

0530.2019.04.015.

Reference

format:

Zhu

Jihong,

Pei

Jihong,

Zhao

Yang.

Research

on

Convolution

Kernel

Initialization

Method

in

Convolutional

Neural

Network(CNN)

Training[J].

Journal

of

Signal

Processing,

2019,

35(4):