权重函数matlab,指定自定义权重初始化函数

本文展示了如何在MATLAB中创建一个自定义权重初始化函数leakyHe,并应用于卷积神经网络(CNN)的训练。通过调整leakyHe函数的参数,对MNIST数据集进行分类,对比了默认和自定义权重初始化对网络性能的影响,结果显示自定义初始化可以实现不同水平的分类准确度。
摘要由CSDN通过智能技术生成

加载数据

将数字样本数据加载为图像数据存储。imageDatastore 函数根据文件夹名称自动对图像加标签。

digitDatasetPath = fullfile(matlabroot,'toolbox','nnet','nndemos', ...

'nndatasets','DigitDataset');

imds = imageDatastore(digitDatasetPath, ...

'IncludeSubfolders',true, ...

'LabelSource','foldernames');

将数据划分为训练数据集和验证数据集,以使训练集中的每个类别包含 750 个图像,并且验证集包含对应每个标签的其余图像。splitEachLabel 将数据存储拆分为两个新的数据存储以用于训练和验证。

numTrainFiles = 750;

[imdsTrain,imdsValidation] = splitEachLabel(imds,numTrainFiles,'randomize');

定义网络架构

定义卷积神经网络架构:

大小为 [28 28 1] 的图像输入层,输入图像的大小

三个二维卷积层,滤波器大小为 3 并分别具有 8、16 和 32 个滤波器

每个卷积层后有一个泄漏 ReLU 层

大小为 10 的全连接层,类的数量

Softmax 层

分类层

对于每个卷积层,将权重初始化函数设置为 leakyHe 函数。在本示例末尾列出的 leakyHe 函数接受输入 sz(层权重的大小)

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值