- 博客(3)
- 收藏
- 关注
原创 LeNet从零开始实现
实验二:LeNet-5 实现卷积网络模型LeNet-5 实现手写数字数据集MNIST的多分类任务 文章目录实验二:LeNet-5一、数据集加载二、使用步骤1.引入库2.读入数据总结 提示:以下是本篇文章正文内容 一、数据集加载 首先导入本实验需要用到的packages import torch from torch import nn import torchvision import torchvision.transforms as transforms from matplotlib impo
2020-11-22 22:33:24
348
原创 动手实现DNN,BP算法
深度学习第一次作业:手动实现DNN网络 姓名:刘景赫 学号:sc20023009 文章目录问题描述一、搭建网络,实现各函数1.导入python库,读入数据2.定义数据加载函数3.定义参数初始化函数4.定义损失函数5.定义sigmoid激活函数及其导数6.定义前行计算7.定义后向计算8.用pytorch搭建神经网络二、验证梯度正确性三、开始训练 问题描述 本文以机器学习领域一个经典的数据集——Iris为例,手动实现一个4层的神经网络,以根据输入特征预测植物的种类。具体包括:数据的打乱和加载、初始化模型
2020-10-31 19:07:34
942
1
原创 深度学习的优化算法——梯度下降和随机梯度下降
深度学习的优化算法——梯度下降和随机梯度下降 随机梯度下降是对梯度下降的无偏估计 优化在深度学习中有很多挑战,下面描述其中两个,局部最小值和鞍点。 1.局部最小值 深度学习模型的目标函数可能存在若干极点——局部最优解(local mininum)。当一个优化问题的数值解在局部最优解附近时,此时目标函数关于自变量的梯度接近零甚至变成零,导致迭代无法继续进行下去,最终求的的数值解只能局部最优而非全局最优(global minimun)。
2020-08-02 19:30:17
1012
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人