pytorch深度学习基础快速入门5：小实战、损失函数与反向传播、优化器

已于 2022-06-27 14:36:15 修改
阅读量248 收藏
点赞数 1
分类专栏： python 文章标签： python
于 2022-06-25 20:50:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_55655082/article/details/125463099
版权

1.小实战

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
模型可视化
在这里插入图片描述
在这里插入图片描述在这里插入图片描述

2. 损失函数

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

交叉熵

在这里插入图片描述
详细：在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述

在这里插入图片描述

3.反向传播

计算每个节点的参数，有了参数的梯度，就可以选取合适的优化器，以达到整体误差减小的作用。在这里插入图片描述

4.优化器

构造优化器在这里插入图片描述
调用优化器step方法（利用梯度进行更新）
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
step利用grad对参数进行更新。（但是参数比较小，所以变化不会很大）循环往复，使得loss变小。
该循环只是对数据进行一轮学习，因此在循环外再套一层循环：
在这里插入图片描述

Keenkey6
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
pytorch自动求导，自定义损失函数
qq_20945297的博客
05-17 3907
什么是动态建图？如何动态建图？动态建图为什么可以反向自动求导？我对于这个问题一直存在疑惑，但是去网上有没有找到好的解释，于是，没办法，自己实验吧。首先，我们做如下定义：a = torch.randn(2)b = torch.randn(2)c = torch.randn(2,requires_grad=True)m = a*bprint(m.grad_fn)q = a*cprint(q.grad_...
深度学习框架pytorch入门与实践源代码.rar
11-21
《PyTorch深度学习入门与实践》源代码详解 PyTorch是Facebook开源的一个强大而灵活的深度学习框架，以其动态计算图模式和易于使用的特性受到了广大开发者和研究者的青睐。本篇将深入探讨PyTorch的核心概念、关键...
pytorch学习记录三 【Sequential / 损失函数 / 反向传播 / 优化器 / 模型修改及使用 / 模型保存与加载】
m0_45682738的博客
02-11 1200
1.神经网络：搭建小实战和Sequential的使用 以CIFAR10 model为例 import torch import torchvision from tensorboardX import SummaryWriter from torch import nn from torch.nn import ReLU, Sigmoid, Linear, Conv2d, MaxPool2d, Flatten from torch.utils.data import DataLoader clas
PyTorch深度学习（9）损失函数、反向传播、优化器
JYliangliang的博客
10-16 773
一、损失函数 例如：试卷总计100分，其中选择题30分、判断题20分、简答题50分 target（目标分数）：选择30、判断20、简答50 ouput（实际分数）：选择10、判断10、简答10 Loss = (30 - 10) + (20 - 10) + (50 - 10) = 70 loss越小越好 1、计算实际输出和目标之间的差距 2、为我们更新输出提供一定的依据（反向传播） 1）L1Loss L1Loss x：1，2，3 y：1，2，5 L1Loss = (0 + 0 ...
深度学习笔记之梯度下降、反向传播与内置优化器
自成背后的博客
05-09 753
梯度下降法、反向传播算法与pytorch内置优化器
Pytorch总结七之 深度学习的正向、反向传播原理+参数初始化+实战房价预测
yohnyang的博客
09-18 988
Pytorch总结七之深度学习的正向、反向传播原理+参数初始化+实战房价预测
深度学习与PyTorch入门学习教程.txt打包整理.zip
03-05
这个"深度学习与PyTorch入门学习教程.txt打包整理.zip"文件可能包含一系列教程或笔记，涵盖了以上提到的各个知识点，帮助初学者逐步掌握深度学习和PyTorch的基础。通过阅读和实践其中的内容，你将能够系统地学习和...
深度学习框架pytorch入门与实践pdf书与代码.zip
02-04
《深度学习框架PyTorch入门与实践》是一本旨在引导初学者和有一定基础的开发者深入理解并掌握PyTorch这一强大深度学习库的书籍。PyTorch是Facebook AI Research（FAIR）团队开发的一个开源机器学习框架，以其易用性...
深度学习与PyTorch入门实战教程-人工智能发展简史.rar
04-07
在这个“深度学习与PyTorch入门实战教程”中，我们将探讨人工智能的发展历程，以及如何利用PyTorch实现深度学习模型。 人工智能（AI）的概念可以追溯到20世纪50年代，那时科学家们开始设想机器能够模仿人类的智能...
零基础入门实战深度学习Pytorch详细过程以及规划.md
最新发布
03-23
零基础入门实战深度学习PyTorch的详细过程和规划可以包括以下几个步骤和内容： 理论基础学习：首先，学员需要对深度学习和神经网络的基本概念有一定的了解。这包括前馈神经网络、反向传播算法、损失函数、优化器等...
PyTorch学习-反向传播
xiongyuqing的博客
07-29 851
反向传播 链式法则，计算梯度（导数）。计算Loss对参数（权重）的偏导，便于利用梯度下降算法，更新权重和偏置的值，使得损失函数的值最小。 PyTorch的Tensor 基本数据类型成员：Tensor，可以是标量，向量，矩阵。 包含两个数据成员： data：权重本身的值 grad：损失函数对权重的导数 构建模型就是构建计算图 代码 import numpy as np import torch import matplotlib.pyplot as plt x_data = [1.0, 2.0, 3..
深度学习入门（十三）前向传播、反向传播和计算图
ElysiumAILab
11-01 678
前向传播、反向传播和计算图 教材 前向传播 前向传播计算图 反向传播 训练神经网络 小结
3.损失函数，反向传播，优化器
sgfsfgs的博客
08-07 1910
本文讲解了常见的一些损失函数，对于交叉熵损失函数进行了重点描述，也讲了反向传播和优化器部分，同时采用自适应学习率算法能够加速loss的收敛情况。
梯度下降、反向传播、学习率 α 、优化器
简单记录生活、学习
05-05 2145
反向传播学习连接：前向传播、反向传播——通俗易懂_马鹏森的博客-CSDN博客_前向传播 反向传播 梯度下降与反向传播 1、反向传播 是 求解损失函数关于各个参数的梯度的一种方法。（求梯度） 2、梯度下降 是 根据计算得到的梯度来更新各个权重W，使损失函数极小值的一种方法。（使梯度下降） 学习率 α 与梯度下降的关系？ 学习率 α 是梯度下降中权重更新公式的一部分 梯度下降中的权重更新公式： 利用，权重更新公式更新权重W，其中 α 是学习率 备注：我认为：学习率有 ==...
PyTorch机器学习之反向传播
心升明月的博客
03-05 3006
代码 如题： 意思是利用这个二次模型来预测数据，减小损失函数(MSE)的值。 代码如下： import torch import matplotlib.pyplot as plt import os os.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE" # 数据集 x_data = [1.0,2.0,3.0] y_data = [2.0,4.0,6.0] # 权重参数初始值均为1 w = torch.tensor([1.0,1.0,1.0]) w.requires_gr
【pytorch笔记】第九篇 损失函数与反向传播
青鸠的博客
11-14 1241
损失函数与反向传播
PyTorch入门（三）损失函数与反向传播
1900的博客
12-24 5079
误差函数与反向传播（误差函数、梯度下降、优化器）
Pytorch 的损失函数Loss function
热门推荐
rosefun96的博客
03-01 2万+
0 损失函数 损失函数，又叫目标函数，是编译一个神经网络模型必须的两个参数之一。另一个必不可少的参数是优化器。 损失函数是指用于计算标签值和预测值之间差异的函数，在机器学习过程中，有多种损失函数可供选择，典型的有距离向量，绝对值向量等。 我们先定义两个二维数组，然后用不同的损失函数计算其损失值。 import torch from torch.autograd import Variable im...
PyTorch学习笔记（11）--损失函数与反向传播
weixin_43981621的博客
08-18 1776
PyTorch学习笔记（11）–损失函数与反向传播     本博文是PyTorch的学习笔记，第11次内容记录，主要介绍损失函数和反向传播的使用。 目录PyTorch学习笔记（11）--损失函数与反向传播1.损失函数2.损失函数的使用2.1L1Loss函数的使用2.2MSELoss函数的使用2.3CrossEntropyLoss函数的使用2.4CrossEntropyLoss函数在神经网络中的应用3.学习小结 1.损失函数     损失函数（loss function）或代价函数（cost function
PyTorch深度学习问题解决实战指南：从入门到精通
《PyTorch Recipes：问题解决之道》是一本由Pradeepta Mishra编著的深度学习指南，采用问题-解决方案的方法来帮助读者快速掌握PyTorch的核心概念。这本书旨在通过实践导向的学习，让读者从基础开始理解PyTorch，重点...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值