![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 87
LiterMa
这个作者很懒,什么都没留下…
展开
-
关于权重衰退和丢弃法
本文是李沐老师和王木头老师视频关于权重衰退的学习笔记。原创 2022-07-17 00:36:08 · 260 阅读 · 1 评论 -
一些经典CNN模型的笔记
文章目录一、关于AlexNet的一些记录池化疑问二、VGGNet三、ResNet一、关于AlexNet的一些记录池化疑问在AlexNet的第5层卷积之后,池化层是采用了3*3大小的窗口,将13*13的特征图池化为6*6的的特征图。但在我的印象中池化层的stride应该等于窗口大小,但这里如果采用stride=3来计算(按公式1-1计算)得到的结果将是4*4的特征图不可能是6*6,这点可以通过以下实验证明。outputSize=Nw+2p−FS+1(1-1)outputSize = \cfrac{N_原创 2022-04-27 16:34:28 · 556 阅读 · 0 评论 -
在pytorch中使用自己的数据集,dataset的写法
文章目录引入方法测试总结引入在学习pytorch的过程中,用的一直都是教程中别人定义好从网上直接下载的数据集,不需要进行任何的处理,数据和标号都可以直接获取。但是,我想要进行自己的研究大多数情况需要我们自己收集数据并进行一些预处理在制作成数据集,然后通过pytorch读入后用来训练模型。这里记录的是一次对上万张验证码图片组成的数据集(标号是其名称)制作pytorch数据集的尝试。部分数据如下:大多数教程中并没有讲这些图片数据和标签是如何装载到torch中的,在分析了一个github项目https:原创 2022-03-22 22:52:37 · 3132 阅读 · 0 评论 -
由mnist引发的思考,pytorch中的交叉熵误差函数nn.CrossEntropy做了什么?
文章目录引入实验一实验二结论引入在MNIST手写体实验中,关于在交叉熵损失函数计算误差时,神经网络输出为10个,当标签设置为何种情况时才能满足交叉熵损失函数的计算公式,来探究这个问题。实验一直接打印出每个数据的标签内容代码如下:import torchfrom torchvision import datasets, transformstransform = transforms.Compose([ # 设置预处理的方式,里面依次填写预处理的方法 transforms.ToT原创 2022-03-12 19:29:01 · 384 阅读 · 0 评论 -
卷积神经网络以LeNet网络为例的手写体识别
参考书目:Pytorch深度学习入门,作者:曾芃壹文章目录卷积卷积过滤器池化实战:手写体识别准备数据集torchvision构建LeNet模型训练函数模型保存、读取和测试功能函数训练前准备、数据加载、模型保存的运行代码卷积卷积我们把输入层看做二维的神经元,如输入的是28*28的图片则可以看做28*28的二维神经元,每个节点对应图片在这个像素点的灰度值。在传统神经网络中,我们把输入层的每一个节点都连接到隐含层的每一个节点上,而这里我们使用一个过滤器例如5*5的一个小网格在28*28的图片上从左上角原创 2022-02-15 23:23:27 · 1651 阅读 · 1 评论 -
pytorch学习线性回归与非线性回归,以及理解nn.linear()和ReLU激活函数
参考书目:Pytorch深度学习入门,作者:曾芃壹文章目录线性回归线性模型与目标函数优化批量输入代码实践大规模数据实验神经网络实现线性回归非线性回归激活函数人工神经网络详解nn.linear()的原理浅谈ReLU激活函数在本例中的作用线性回归线性模型与目标函数这次我们使用直线KaTeX parse error: \tag works only in display equations来拟合几个离散点,个点的 值如下x(i)x^{(i)}x(i)y(i)y^{(i)}y(i)y^(i)原创 2022-01-17 17:36:46 · 4295 阅读 · 1 评论 -
pytorch中Tensor的简单学习
参考书目:Pytorch深度学习入门,作者:曾芃壹文章目录Tensor基本创建方法Tensor快速创建方法常用数学操作线性代数运算连接和切片变形CUDA加速自动微分基本原理向前传播反向传播非标量输出TensorTensor,中文为张量,是pytorch中最基本的数据类型#导入torch包import torch基本创建方法#torch.Tensor()传入参数构造矩阵x=torch.Tensor(2,4)print(x)print(x.type())print(x.dtype)原创 2022-01-14 00:40:43 · 682 阅读 · 0 评论 -
机器学习对数学模型的简单实践
参考书目:数学教科书,作者:我妻幸长文章目录回归与过度学习回归与分类多项式回归最小二乘法利用梯度下降法最小化误差分类与逻辑回归参数优化生成数据实现逻辑回归小结神经网络概述人工智能、机器学习、神经网络神经元模型神经元网络学习机制单一神经元的学习正向传播表达式权重与偏置的更新列出公式输入与正确数据正向传播和反向传播迈向深度学习多层神经网络的正向传播和反向传播回归与过度学习回归与分类模型(用数学公式表示的定量规则)Y=f(X)Y=f(X)Y=f(X)来捕捉数据的倾向,Y={y1,y2,⋯ ,ym}Y=\{原创 2022-01-12 23:38:33 · 600 阅读 · 0 评论 -
有关机器学习的概率和统计简略学习笔记
参考书目:数学教科书,作者:我妻幸长什么是概率P(A)=anP(A)=\frac{a}{n}P(A)=na其中P(A)是事件A发生的概率,a是A事件发生场景的数量,n是所有场景发生的数量例如抛硬币,有正面和反面两种情况则n=2,若A代表正面的情况,a=1,即P(A)=12P(A)=\frac{1}{2}P(A)=21补事件P(Aˉ)=1−P(A)P(\bar{A})=1-P(A)P(Aˉ)=1−P(A)例如掷骰子,两个骰子点数之和为5的事件是A,则P(A)=19P(A)=\frac{1原创 2022-01-06 20:34:57 · 1032 阅读 · 1 评论