《pytorch深度学习实践》笔记

最新推荐文章于 2023-03-12 21:32:57 发布
最新推荐文章于 2023-03-12 21:32:57 发布
阅读量184 收藏 1
点赞数
分类专栏： pytorch编程基础知识 文章标签： python pytorch 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yeeanna/article/details/118000302
版权

仅供自己参考

  1. pytorch中的变量：tensor
    分为：data——权重参数
    grad——损失对权重的导数
    tensor可以理解为一种数据类型，这种类型的变量在计算时会产生计算图，从而可以通过计算图方便地进行后向传播。

一个易错点：若想损失求和，定义了一个sum，sum+=l,此时sum会变成一个tensor类型的变量，就会产生计算图，但其实是不必要的，因为并不会对sum进行后向传播。所以此时tensor类型的变量sum就会占内存。导致不必要的内存消耗。
在这里插入图片描述

正确的做法是：将tensor类型的l转换为纯python标量：sum+=l.item()

yeeanna
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
《PyTorch深度学习实践》学习笔记 【1】
Pin_BOY的博客
08-14 1042
《PyTorch深度学习实践》学习笔记 【1】 学习资源： 《PyTorch深度学习实践》完结合集 一. 绪论 1. 人工智能的发展历程 Rule—Based： 基于规则（如经典的积分计算） Classic machine learning : 手动提取特征，使用特征 representation learning ： 自动提取特征 维度的诅咒： (参数空间搜索组合爆炸) 解决方法：使用更少的更有代表性的参数。 DeepLearning： 将特征提取和特征函数训练两个过程结合起来，也称之为E
PyTorch深度学习实践笔记#7 | 循环神经网络(基础篇)
z
05-30 302
PyTorch深度学习实践笔记#7 | 循环神经网络(基础篇) 嗨，我是error。 我来记录PyTorch深度学习实践的笔记了，这会是一个系列，后面会慢慢更新。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】 其实本质上来讲RNN也是线性计算，只不过是线性计算的独特组合方式而已，通过巧妙的结构设计来获取传统线性计算不能获取的数据之间相关联信息的反馈。同时，基于参数共享的思想，使得RNN在拥有较复杂
Pytorch深度学习实践--学习笔记
A2000613的博客
01-26 429
Pytorch深度学习实践--学习笔记
《PyTorch深度学习实践》 学习笔记1
白白白
09-11 229
1、线性模型 x(hours) y(points) 1 2 2 4 3 6 4 ? 样本 Trainning loss error loss= Trainning Set 1.1、穷举求w使得损失最小 import numpy as np import matplotlib.pyplot as plt x_data = [1.0, 2.0, 3.0] y_data = [2.0, 4.0, 6.0] w...
《PyTorch深度学习实践》学习笔记 【4】
Pin_BOY的博客
08-20 2067
《PyTorch深度学习实践》学习笔记 【4】 学习资源： 《PyTorch深度学习实践》完结合集 六、Logistics Regression（逻辑斯蒂回归模型） 虽然它叫做回归模型，但是处理的是分类问题 6.0 回归问题和分类问题 有监督学习： 回归问题 分类问题 二分类 多分类 回归问题：如果我们预测的结果是以连续数字进行表示，即我们将在连续函数中对多个输入变量建立映射关系时，则这样的问题称之为回归问题。 分类问题：如果我们预测的结果是以离散形式表示的，即我们将多个输入变量与多个不同
《Pytorch深度学习实践》课程合集（刘二大人）笔记
竦貊的博客
05-30 4746
2 线性模型 深度学习步骤 数据集 —— 拿到的训练集，要分成两部分，训练集，交叉验证集 和 测试集 模型 训练 推理 ML常用损失函数
《PyTorch深度学习实践》学习笔记(1)
t28383993的博客
01-24 1723
深度学习，刘二大人
【B站_刘二大人pytorch深度学习实践】笔记作业代码合集
m0_58586235的博客
03-12 2907
手动训练：线性模型，梯度下降，BP Pytorch框架训练：线性回归，LogisticRegression，多维特征输入，加载数据集，多分类，CNN，RNN
PyTorch深度学习实践笔记#6 | 卷积神经网络(高级篇)
z
05-23 269
PyTorch深度学习实践笔记#6 | 卷积神经网络(高级篇) 嗨，我是error。 我来记录PyTorch深度学习实践的笔记了，这会是一个系列，后面会慢慢更新。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】 本文主要记录如何通过pytorch实现经典的resnet和inception模型。 上一篇基础篇我们主要讲述了如何实现线性的CNN模型，即如下图的结构，没有复杂的跳转，也没有嵌套，整个代码结
PyTorch深度学习实践笔记#8 | 循环神经网络(高级篇)
z
06-01 349
嗨，我是error。 我来记录PyTorch深度学习实践的笔记了，这会是这个系列的最后一篇文章。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】 本节课的内容主要通过以下一个实例的讲解来讲述RNN一些更细节的部分。 实例的题目是要将输入一个名字，判断他是属于哪个国家的。 在日常生活中，我们也有这样的认识，根据一个人的姓名可以大致判断这个人的所属国籍。 相对于我们上一讲的n-n的RNN模型，我们这次.
PyTorch深度学习实践笔记#5 | 卷积神经网络(基础篇)
z
05-20 179
嗨，我是error。 我来记录PyTorch深度学习实践的笔记了，这会是一个系列，后面会慢慢更新。个人之前都是使用tensorflow进行深度学习实践，这是第一次学习Pytorch，若笔记有误欢迎提出纠正！课件采用自B站"刘二大人"老师的视频【传送门】 ...
《PyTorch深度学习实践》课上代码笔记 一
Zhanglw882的博客
10-20 1060
自学笔记 课程老师：刘二大人 河北工业大学教师 https://liuii.github.io 课程来源：https://www.bilibili.com/video/BV1Y7411d7Ys 一、Gradient Descent梯度下降(无反馈) #梯度下降的线性拟合过程，梯度使用的是平均梯度 #导入数据 x_data = [1,2,3] y_data = [2,4,6] #初始化w的值 w = 1 #正向传递函数 def forward(x): return x*w #计算损失函数 def co
pytorch深度学习实战笔记
benben044的专栏
03-28 1651
一、 第一章 深度学习和pytorch库简介 1、 深度学习是近似复杂的、非线性的过程。 2、 机器学习：依赖特征工程；深度学习：自动寻找表征 3、 张量：它是一个多维数组 4、 Pytorch的2个核心： （1） 提供了张量以及torch模块提供的库 （2） 张量可以跟踪对其执行操作的能力，以及计算导数 5、 pytorch核心模块位于torch.nn中 二、 第二章 预训练模型 1、 预定义模型位于：torchvision.models 三...
笔记|（b站）刘二大人：pytorch深度学习实践（代码详细笔记，适合零基础）
weixin_43267897的博客
08-07 9760
pytorch深度学习实践 笔记中的代码是根据b站刘二大人的课程所做的笔记，代码每一行都有注释方便理解，可以配套刘二大人视频一同使用。 用PyTorch实现线性回归 # 1、算预测值 # 2、算loss # 3、梯度设为0，并反向传播 # 3、梯度更新 import torch x_data = torch.Tensor([[1.0], [2.0], [3.0]]) y_data = torch.Tensor([[2.0], [4.0], [6.0]]) # 构造线性模型,后面都是使用这样的模
PyTorch深度学习实践学习笔记（1）
bailongyang的博客
07-13 540
机器学习overview
《PyTorch深度学习实践》学习笔记1——Overview
qq_45688633的博客
09-20 208
Overview 课程来源：PyTorch深度学习实践——河北工业大学 《PyTorch深度学习实践》完结合集_哔哩哔哩_bilibili 1.PyTorch简介 ​ PyTorch是一个基于Torch的Python开源机器学习库，用于自然语言处理等应用程序。它主要由Facebookd的人工智能小组开发，不仅能够 实现强大的GPU加速，同时还支持动态神经网络。 2.与TensorFlow区别 ​ pytorch是一个动态的框架，而TensorFlow是静态框架（2.x版本也为动态框架优先）。静态框架就是指我
《PyTorch深度学习实践》学习笔记—— 第1讲 Overview
槐序的小山洞
05-31 348
文章目录前言1 算法2 框架3 学习系统发展4 维度诅咒压缩空间线性5 深度学习系统与以前的差别6 机器学习策略 前言 本文仅为个人学习记录，便于以后查看使用。 1 算法 四种： 穷举法 贪心法 分治法 动态规划 2 框架 只是包含关系，如表示学习只是机器学习的一部分。 3 学习系统发展 4 维度诅咒 假设1个维度上取10个样本可做到贴近实际分布，则2个维度需要102=100个样本，3个维度需要103=1000个样本……N个维度就需要10N个样本。 压缩空间 把N维空间压缩到3维。 线性 设有一个
《PyTorch深度学习实践》学习笔记 【5】CNN_1
Pin_BOY的博客
08-19 1336
《PyTorch深度学习实践》学习笔记 【5】CNN_1 十、CNN 1 10.1 卷积神经网络的基本结构 卷积神经网络=特征提取+分类 10.1.1 特征提取 特征提取器，通过卷积运算，找到某种特征。由卷积层convolution和下采样Subsampling 构成。 一个图像，丢到一个卷积层里面仍然是一个3维的张量； 下采样，通道数不变，但是图片的宽度和高度变小（减少维数数量，减少计算量） 10.1.2 分类器 将特征向量化后，用全连接网络进行来分类。 10.2 Convolution （卷积层） 1
学习笔记：pytorch深度学习实践
weixin_43444329的博客
11-28 687
目录 1. 神经网络发展史 反向传播 2.线性模型 规则需要专业领域专家制定，规则越来越强大，难以维护。 新的挑战： 人工设置特征会有很多限制；SVM处理大数据集效果不好；越来越多的数据需要处理非结构化数据； 1. 神经网络发展史 反向传播 深度学习发展的原因：算法、数据、显卡 2.线性模型 问题假设： 测试集测试其泛化能力（对于为训练的特征也能很好的识别）。 数据集（训练集、测试集）---->问题：只有训练集，测...
pytorch 深度学习实践 牟大恩 下载
最新发布
06-24
《PyTorch深度学习实践》是由牟大恩编写的一本介绍PyTorch深度学习的实践指南。这本书主要分为两部分，第一部分介绍了PyTorch的基本概念和使用方法，包括PyTorch的基本原理、张量运算、自动求导、数据集、数据加载等...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值