- 博客(2)
- 资源 (6)
- 收藏
- 关注
原创 关于卷积神网络(一)
采用迭代的算法来训练整个网络,随机设置网络参数的初始值(一般设置为0),将网络实际输出与期望输出的差值作为错误信号,通过梯度下降法反向传播到前层网络来更新权重和偏置,来更好的提取对象的特征。1、Batch normalization 用于优化网络模型结构,对网络中每一层的神经元输入,计算均值和方差后,再进行归一化;2、stride 卷积核滑动步长,如果每次滑动为1 ,感知域将会有很多重叠
2017-07-10 16:50:56 465
模型压缩之通道剪枝channel-pruning-master.zip
对训练好的模型进行通道剪枝(channel pruning),分为两步进行:第一步是channel selection,采用LASSO regression来做,其实就是添加了一个L1范数来约束权重,因为L1范数可以使得权重更加稀疏,这样就可以把那些稀疏的channel剪掉;第二步是reconstruction,基于linear least squares来约束剪枝后输出的feature map要尽可能和减枝前的输出feature map相等,也就是最小二乘值越小越好。
2019-08-01
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人