![](https://img-blog.csdnimg.cn/e85af7ef28b54d75b3e02fa6da5fa6f8.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
李沐《动手学深度学习》课程笔记
深度学习
非文的NLP修炼笔记
研究生在读,NLP小白一枚,希望大家多多指教~
展开
-
李沐《动手学深度学习》课程笔记:15 实战:Kaggle房价预测 + 课程竞赛:加州2020年房价预测
15 实战:Kaggle房价预测 + 课程竞赛:加州2020年房价预测1.访问和读取数据集import hashlibimport osimport tarfileimport zipfileimport requestsDATA_HUB = dict()DATA_URL = 'http://d2l_data.s3-accelerate.amazonaws.com/'def download(name, cache_dir=os.path.join('..', 'data'))原创 2022-03-04 19:02:10 · 3155 阅读 · 2 评论 -
李沐《动手学深度学习》课程笔记:14 数值稳定性 + 模型初始化和激活函数
目录14 数值稳定性 + 模型初始化和激活函数1.数值稳定性2.模型初始化和激活函数14 数值稳定性 + 模型初始化和激活函数1.数值稳定性考虑一个具有L层、输入x和输出o的深层网络。 每一层l由变换fl定义, 该变换的参数为权重W(l), 其隐藏变量是h(l)(令h(0)=x)。 我们的网络可以表示为:(4.8.1)h(l)=fl(h(l−1))因此o=...原创 2022-03-03 10:34:28 · 1098 阅读 · 1 评论 -
李沐《动手学深度学习》课程笔记:13 丢弃法
13 丢弃法1.丢弃法2.代码实现# 我们实现dropout_layer函数,该函数以dropout的概率丢弃张量输入x中的元素import torchfrom torch import nnfrom d2l import torch as d2limport matplotlib.pyplot as pltimport osos.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE"def dropout_laye原创 2022-03-01 19:34:21 · 900 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:12 权重衰退
目录12 权重衰退1.权重衰退2.代码实现11 权重衰退1.权重衰退2.代码实现# 权重衰减,权重衰减是最广泛使用的正则化的技术之一import torchimport osimport matplotlib.pyplot as pltfrom torch import nnfrom d2l import torch as d2los.environ["KMP_DUPLICATE_LIB_OK"] = "TRUE"n_train原创 2022-03-01 16:13:34 · 971 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:11 模型选择 + 过拟合和欠拟合
目录11 模型选择 + 过拟合和欠拟合1.模型选择2.过拟合和欠拟合3.代码11 模型选择 + 过拟合和欠拟合1.模型选择2.过拟合和欠拟合3.代码# 模型选择、欠拟合和过拟合# 通过多项式拟合来交互地探索这些概念import mathimport numpy as npimport torchimport matplotlib.pyplot as pltfrom torch import nnf...原创 2022-02-28 16:50:38 · 1228 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:10 多层感知机 + 代码实现
目录10 多层感知机 + 代码实现1.感知机2.多层感知机3.多层感知机的从零开始实现4.多层感知机的简洁实现10 多层感知机 + 代码实现1.感知机2.多层感知机3.多层感知机的从零开始实现# 多层感知机的从零开始实现import torchfrom torch import nnfrom d2l import torch as d2limport osimport ma原创 2022-02-28 08:32:47 · 2121 阅读 · 1 评论 -
李沐《动手学深度学习》课程笔记:09 Softmax回归
目录09 Softmax回归1.Softmax回归2.损失函数3.图片分类数据集4. Softmax回归的从零开始实现5.Softmax回归的简洁实现09 Softmax回归1.Softmax回归2.损失函数3.图片分类数据集# MNIST数据集是图像分类中广泛使用的数据集之一,但作为基准数据集过于简单。我们将使用类似但复杂的Fashion-MNIST数据集import torchimport原创 2022-02-26 15:53:56 · 2710 阅读 · 4 评论 -
李沐《动手学深度学习》课程笔记:08 线性回归 + 基础优化算法
目录08 线性回归 + 基础优化算法1.线性回归2.基础优化算法3.线性回归的从零开始实现4.线性回归的简洁实现08 线性回归 + 基础优化算法1.线性回归2.基础优化算法3.线性回归的从零开始实现import randomimport torchfrom d2l import torch as d2limport osos.environ["KMP_DUPLICATE_LIB_OK"] = .原创 2022-02-25 17:04:49 · 897 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:07 自动求导
07 自动求导1.自动求导2.自动求导实现原创 2022-02-25 09:57:53 · 735 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:06 矩阵计算
06 矩阵计算原创 2022-02-24 22:45:08 · 157 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:05 线性代数
目录05 线性代数1.线性代数2.线性代数实现3.按特定轴求和05 线性代数1.线性代数2.线性代数实现import torch# 标量由只有一个元素的张量表示x = torch.tensor(3.0)y = torch.tensor(2.0)print(x+y)print(x*y)print(x/y)print(x**y)# 可以将向量视为标量组成的列表x = torch.arange(4)print..原创 2022-02-24 22:22:16 · 1123 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:03 安装、04 数据操作
03 安装(安装过程约等于劝退过程,我用的是windows装的pytorch,所以没有受到困扰。。。)04 数据操作1.数据操作N维数组是机器学习和神经网络的主要数据结构创建数组需要:1.形状 :例如3*4矩阵2.每个元素的数据类型:例如32位浮点数3.每个元素的值,例如全是0,或者随机数访问元素:2.数据操作实现张量表示一个数值组成的数组,这个数组可能有多个维度。import torch# 创建一个元素为0~11连续值的向量x..原创 2022-02-24 19:03:36 · 741 阅读 · 0 评论 -
李沐《动手学深度学习》课程笔记:00预告、01课程安排、02深度学习介绍
目录00预告01课程安排02深度学习介绍00预告学习深度学习关键是动手深度学习是人工智能最热的领域核心是神经网络应该像学习Python/C++一样学习深度学习01课程安排目标介绍深度学习经典和最新模型:LeNet, ResNet, LSTM, BERT,...机器学习基础:损失函数、目标函数、过拟合、优化实践:使用Pytorch实现介绍的知识点;在真实数据上体验算法效果内容深度学习基础-线性神经网络,多层感知机卷积神经网络-LeNet, A原创 2022-02-22 11:17:57 · 353 阅读 · 0 评论