![](https://img-blog.csdnimg.cn/20190918140012416.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
Pytorch
文章平均质量分 92
主要是根据李沐老师的教程理解相关概念以及做的实验结果。
哇咔咔负负得正
这个作者很懒,什么都没留下…
展开
-
Pytorch 在 Kaggle 上使用 GPU
Kaggle 上使用 GPU0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. Kaggle 上使用 GPU找到右边 Settings 里面的 Accelerator:选择 GPU:每周可以使用 36 小时:查看显卡信息:!nvidia-smi可以看到显卡为 Tesla P100,拥有 16G 显存。2. 计算设备我们可以指定原创 2022-04-20 13:46:26 · 11100 阅读 · 6 评论 -
PyTorch 神经网络基础
PyTorch 神经网络基础0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 层和块1.0 概述多层感知机模型接受原始输入(特征),生成输出(预测), 并包含一些参数(所有组成层的参数集合)。 同样,每个单独的层接收输入(由前一层提供), 生成输出(到下一层的输入),并且具有一组可调参数, 这些参数根据从下一层反向传播的信号进行更新。块(blo原创 2022-04-19 20:29:52 · 618 阅读 · 0 评论 -
Pytorch kaggle 房价预测实战
Pytorch kaggle 房价预测实战0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 准备工作直接使用 Kaggle 自带的环境和数据集,比较方便,省去了下载数据集的代码。1.1 加入比赛https://www.kaggle.com/c/house-prices-advanced-regression-techniques1.2 新建原创 2022-04-18 14:50:22 · 2578 阅读 · 3 评论 -
Pytorch 数值稳定性,模型初始化
Pytorch 数值稳定性,模型初始化这一节内容有很多数学推导,大家可以多看看李沐老师的视频和教材理解理解。我摊牌了,这一章我没完全听懂。就大概记了下能大概听懂的内容,准备以后的学习中进一步加深对本节课的理解。1. 数值稳定性1.1 神经网络的梯度考虑如下有 ddd 层神经网络:ht=ft(ht−1) and y=ℓ∘fd∘…∘f1(x)\mathbf{h}^{t}=f_{t}\left(\mathbf{h}^{t-1}\right) \quad \text { and }原创 2022-04-17 13:36:39 · 422 阅读 · 3 评论 -
Pytorch 正则化方法(权重衰减和Dropout)
正则化方法(权重衰退和Dropout)正则化方法和以前学过的正则表达式没有任何关系!花书 p141 说到:能显式地减少测试误差(可能会以增大训练误差为代价)的方法都被称为正则化。0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 权重衰减权重衰减是正则化方法之一,权重衰减通过 L2 正则项使得模型参数不会过大,减少噪声的影响,从而控制模型复杂原创 2022-04-16 18:10:32 · 2867 阅读 · 0 评论 -
Pytorch 模型选择,过拟合和欠拟合
模型选择,过拟合和欠拟合0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 选择模型在机器学习中,我们通常在评估几个候选模型后选择最终的模型。 这个过程叫做模型选择。 有时,需要进行比较的模型在本质上是完全不同的(比如,决策树与线性模型)。 又有时,我们需要比较不同的超参数设置下的同一类模型。例如,训练多层感知机模型时,我们可能希望比较具有 不同数原创 2022-04-15 19:07:42 · 1489 阅读 · 3 评论 -
Pytorch 多层感知机
多层感知机0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1.原创 2022-04-15 13:02:03 · 1974 阅读 · 0 评论 -
Pytorch Softmax 多分类
Softmax0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1.原创 2022-04-14 15:36:05 · 3124 阅读 · 2 评论 -
Pytorch 线性回归
线性回归回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。 在自然科学和社会科学领域,回归经常用来表示输入和输出之间的关系。在机器学习领域中的大多数任务通常都与预测(prediction)有关。 当我们想预测一个数值时,就会涉及到回归问题。 常见的例子包括:预测价格(房屋、股票等)、预测住院时间(针对住院病人等)、 预测需求(零售销量等)。0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小原创 2022-04-13 17:24:57 · 2222 阅读 · 0 评论 -
Pytorch 微积分
微积分0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。0.1 求导结果0.2 y 为标量,X 为向量0.3 y 和 X 均为向量1. 自动求导假设我们想对函数 y=2x⊤xy=2x^{\top}xy=2x⊤x 关于列向量 xxx 求导。小细节:arange(4) 代表生成 4 个连续整型数,arange(4.0) 代表生成 4 个连续原创 2022-04-12 11:08:30 · 1695 阅读 · 0 评论 -
Pytorch 线性代数
线性代数0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 标量标量由只有一个元素的张量表示。 在下面的代码中,我们实例化两个标量,并执行一些熟悉的算术运算,即加法、乘法、除法和指数。2. 向量可以将向量视为标量值组成的列表。 将这些标量值称为向量的元素(element)或分量(component)。2.1 长度,维度,形状3. 矩阵原创 2022-04-11 20:22:01 · 943 阅读 · 0 评论 -
Pytorch 数据预处理
数据预处理0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解小技巧:当遇到函数看不懂的时候可以按 Shift+Tab 查看函数详解。1. 数据预处理1.1 读取数据import osos.makedirs(os.path.join('..', 'data'), exist_ok=True)data_file = os.path.join('..','data', 'house_tiny.csv')with open(原创 2022-04-11 16:51:24 · 1877 阅读 · 0 评论 -
Pytorch tensor Quickstart
Pytorch tensor0. 环境介绍环境使用 Kaggle 里免费建立的 Notebook教程使用李沐老师的 动手学深度学习 网站和 视频讲解引入 pytorchimport torch1. tensor1.1 基本操作张量(tensor)数值组成的数组,数组可以有多个维度arange() 生成向量shape 输出张量形状numel() 返回张量中元素总数reshape() 改变一个张量的形状zeros() 全 0 阵ones() 全 1 阵te原创 2021-12-23 17:27:35 · 1090 阅读 · 0 评论