- 博客(13)
- 收藏
- 关注
原创 pytorch—优化器
一、简介:优化器在神经网络模型中的作用是通过调节模型参数来优化模型性能,使其能够更好的拟合训练数据,提高预测准确性。同时,优化器还具有快速收敛、防止过拟合和避免陷入局部最优等能力,以确保模型的有效性和准确性。2、 lr参数:学习速率,一般来说学习速率不能设置的太大或太小,太大模型不稳定,太小模型训练太慢,刚开始训练时推荐学习速率较大,训练到后期再使用小速率。1、params参数:模型的参数,传递给优化器可调节参数的信息。(此次采用的神经网络模型还是先前文章中介绍的实战的一种网络模型)
2024-05-14 17:30:48
262
1
原创 损失函数与反向传播
2、为反向传播更新数据提供一个依据(反向传播是一种训练神经网络的算法,主要用计算每个参数对于损失函数的梯度,从而通过梯度下降法来更新网络参数,使得神经网络逐渐适应网络数据)1、计算实际输入与目标输出之间的差值。与损失函数相同,交叉熵也是越小越好。
2024-05-12 14:29:47
213
原创 搭建神经网络模型实战
这种神经网络模型中,大部分数组都已经给出,但有些数据需要根据已有的数据进行计算,例如每次进行卷积操作时padding的值就需要自行计算,最后进行线性层时的输入也要自行计算。图中HWC分别代表着高度(hgiht),宽度w(width),通道数(Channels)
2024-05-10 21:38:51
186
1
原创 神经网络——线性层
其中 W是权重,b是偏置(参数bias为True时才存在) ,weight和bais都是从分布中采样初始化,经过训练得最终结果。线性层输入的参数 input_features 就是输入的x,输出 out_features 就是输出的g。在从vgg模型中将224*224*3的图片转化为了1*1*4096的大小,经训练得到了1*1*1000 的结果。
2024-05-10 19:48:34
301
原创 神经网络——非线性激活
从图中可以看出这种非线性激活的作用是:当输入大于0时,不改变输入的东西,如果输入小于0,则将输入的东西变成0。一、非线性的作用:主要是给模型加上一些非线性特征,非线性特征越多,才能训练出符合各种特征的模型。由于此线性激活作用于图像上并不明显,因此不再演示,将演示内容放至下一个非线性激活中。未True时,会自动将结果赋给原值,为False时,不会讲结果赋给原值。当 inplace = True时:会将输入图像也改变。
2024-05-10 17:12:30
382
原创 神经网络——池化层
此时数据无法填满kernel_size中的格子,就涉及到取舍问题,当ceil_module=T时,保留 剩余的6个数,并取出最大值:3,如果为False,则将这6个数舍去。1、kernel_size:最大取值窗口,类似于卷积中的卷积核,当传入一个整形时,最大取值窗口为一个正方形,当传入一个列表时,则一个是长,一个是宽。由此结果可以看出最大池化的功能:我们输入的图片时5*5的,可输出的图片会变成2*2或1*1,经过这样的处理,使得数据量变少,当训练模型时就会训练的更快。填充通常用于控制输出特征图的大小。
2024-05-10 16:32:37
587
原创 神经网络的卷积操作
计算方式:将卷积核与输入图像进行匹配,然后对应格子上的数相乘,最后九个数相加,每匹配完一次卷积核,卷积核在图像中左右或上下移动一个步径,然后重复上述操作,最终得到卷积后的输出。1、简介:主要用于实现二维卷积操作。它通常应用于图像处理,特别是在构建卷积神经网络(Convolutional Neural Networks,CNN)时。padding:改变输入图像的边缘填充大小,从而控制卷积后的输出大小。input:提供一个输入(例如图形等)weight:权重(即卷积核)
2024-04-26 16:21:43
297
原创 Transforms的使用
转换为此类型的原因是:tensor类型数据可以理解为包装了一些反向神经网络的理论基础所需要的参数,因此在反向神经网络中需要把PIL数据类型和numpy数据类型转化为tensor类型,然后对其进行一个训练,所以需要用到tensor数据类型。它包含了一系列用于图像或数据的格式变换、裁剪、缩放、旋转等操作的方法,对于深度学习项目来说非常有用。二、用法:把特定格式的图片用Transforms类包含的方法改变,最常用的是将PIL照片类型和numpy照片类型转化为tensor照片类型。
2024-04-24 21:43:08
188
原创 Tensorboard的使用
小工具1:add_image方法的参数需要是tensor型或者是numpy型,这里利用numpy.array()对PIL图片进行转换,获得numpy型图片数据信息(tensor型数据的获取在下一篇文章中)(在使用完上述两种方法后,一定要记得关闭事件文件,否则无法在终端打开绘制的训练结果)如果想要查看绘制的图像,则需要用终端进行打开:(pytorch环境下的终端)此方法第二个参数是步骤的意思,如果还想加入图片的话,下一次就将步骤从1编程2。port :端口名,防止默认端口使用的人太多而无法进入。
2024-04-24 20:14:55
639
原创 pip 安装库失败问题:Retrying (Retry(total=4, connect=None, read=None, redirect=None, status =None)),原因及解决办法
解决方案:更换镜像源,本次作者更换的是清华镜像源(清华镜像源不能与翻墙梯子同时使用,否则会无效)最后点击确定,就将镜像源更换为清华镜像源了,切记,清华镜像源不能与翻墙梯子同时开启。原因:应该是官网文体。
2024-04-23 20:50:47
545
原创 Pytorch加载数据
2、os.path.join函数的作用:将两个路径进行拼接,并根据系统环境进行选择使用正斜杠或反斜杠。1、导入os模块的主要作用是:找到数据集所在的文件并进行操作(具体操作保存至作者语雀笔记中)一、Dataset:提供一种方式去获取数据及其label(标签)二、Dateloader:为后面的网络提供不同的数据形式。1、如何获取每一个数据及其label。2、告诉我们总共有多少个数据。3、导入Image主要是用于对图片进行操作。
2024-04-22 20:47:56
186
原创 Python两个法宝
2、help()函数:说明书,相当于能让我们知道每个工具时如何使用的,工具的使用方法。1、dir()函数:打开,看见,相当于能让我们知道工具箱以及工具箱分隔区有什么东西。
2024-04-22 09:17:38
102
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人