动手学深度学习-笔记-跟李沐学AI

已于 2024-07-26 13:37:21 修改
阅读量955 收藏 16
点赞数 7
分类专栏： 暨大-博士-作业 文章标签： 笔记
于 2023-12-02 12:35:17 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/WhiffeYF/article/details/134749107
版权

目录

04 数据操作+数据预处理

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

https://github.com/Whiffe/Mu_Li_course_note/blob/main/04%E6%95%B0%E6%8D%AE%E6%93%8D%E4%BD%9C.ipynb

数据预处理
CSV全称：Comma-Separated Values

https://github.com/Whiffe/Mu_Li_course_note/blob/main/04%E6%95%B0%E6%8D%AE%E9%A2%84%E5%A4%84%E7%90%86.ipynb

05 线性代数

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

按照特定轴求和
在这里插入图片描述
操作：
https://github.com/Whiffe/Mu_Li_course_note/blob/main/05%E7%BA%BF%E6%80%A7%E4%BB%A3%E6%95%B0.ipynb

06 矩阵计算

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

07 自动求导

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

操作：
https://github.com/Whiffe/Mu_Li_course_note/blob/main/07%20%E8%87%AA%E5%8A%A8%E6%B1%82%E5%AF%BC.ipynb

08 线性回归

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

09 Softmax 回归 + 损失函数 + 图片分类数据集

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

10 多层感知机

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

11 模型选择 + 过拟合和欠拟合

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

12 权重衰退

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

13 丢弃法

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

14 数值稳定性 + 模型初始化和激活函数

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

19 卷积层

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

20 卷积层里的填充和步幅

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

21 卷积层里的多输入多输出通道

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

22 池化层

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

23 经典卷积神经网络 LeNet

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

24 深度卷积神经网络 AlexNet

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

25 使用块的网络 VGG

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

26 网络中的网络 NiN

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

27 含并行连结的网络 GoogLeNet / Inception V3

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

28 批量归一化

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

29 残差网络 ResNet

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

31 深度学习硬件：CPU 和 GPU

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

32 深度学习硬件：TPU和其他

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

33 单机多卡并行

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

35 分布式训练

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

36 数据增广

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

37 微调

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

41 物体检测和数据集

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

42 锚框

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

44 物体检测算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

45 SSD实现

46 语义分割和数据集

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

47 转置卷积

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

47.2 转置卷积是一种卷积

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

48 全连接卷积神经网络 FCN

在这里插入图片描述
在这里插入图片描述

49 样式迁移

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

51 序列模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

52 文本预处理

53 语言模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

54 循环神经网络 RNN

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

56 门控循环单元（GRU）

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

57 长短期记忆网络（LSTM）

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

58 深层循环神经网络

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

v
在这里插入图片描述

59 双向循环神经网络

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

61 编码器-解码器架构

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
·# 62 序列到序列学习（seq2seq）
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

63 束搜索

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

64 注意力机制

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

65 注意力分数

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

66 使用注意力机制的seq2seq

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

67 自注意力

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

68 Transformer

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

69 BERT预训练

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

70 BERT微调

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

72 优化算法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

【完结】73 - 课程总结和进阶学习

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

CSPhD-winston-杨帆
关注
专栏目录
【AI】《动手学-深度学习-PyTorch版》笔记（一）：学习环境配置
郭老二
07-05 781
在Anaconda中搭建PyTorch学习环境
跟李沐学AI-动手学深度学习-线性回归+基础优化算法
哇哈哈哈的博客
09-06 658
回归（regression）是指⼀类为⼀个或多个⾃变量与因变量之间关系建模的⽅法。在⾃然科学和社会科学领域，回归经常⽤来表⽰输⼊和输出之间的关系。 在机器学习领域中的⼤多数任务通常都与预测（prediction）有关。当我们想预测⼀个数值时，就会涉及到 回归问题。常⻅的例⼦包括：预测价格（房屋、股票等）、预测住院时间（针对住院病⼈）、预测需求（零售 销量）等。但不是所有的预测都是回归问题。 线性回归 eg：房价预测：一个简化模型 假设1：影响房价的关键因素是卧室个数、卫生间个数和居住面积，记为x
李沐「动手学深度学习」中文课程笔记来了！代码还有详细中文注释
zandaoguang的博客
05-09 1463
视学算法报道编辑：张倩markdown笔记与原课程视频一一对应，Jupyter代码均有详细中文注释，这份学习笔记值得收藏。去年年初，机器之心知识站上线了亚马逊资深首席科学家李沐博士的「动手学深度学习」中文系列课程。这门课从3月持续到8月，超过28000人参与了直播，课程回放在 B 站的播放量达到了上百万次。这门课程基于李沐等人编写的《动手学深度学习》第二版。《动手学深度学...
day02||深度学习（李沐动手学深度学习）
最新发布
m0_67567149的博客
07-30 804
【 9/73】线性代数：本节代码文件在源代码文件的chapter_preliminaries/linear-algebra.ipynb中标量由只有一个元素的张量表示向量视为标量值组成的列表通过张量的索引来访问任一元素好的又出问题了，因为没有mxnet试了一下这个语句，还是报错跟着这个教程把文件夹换了，重新安装了降维求和①原始shape：[5,4]②原始shape：[2,5,4]梯度指向的是值变化最大的方向需要补充矩阵知识的学习。
跟李沐学AI-动手学深度学习-深度学习计算
哇哈哈哈的博客
09-16 796
深度学习计算 层和块 单个神经元： 接收一组输入。 生成相应的标量输出。 具有一组相关参数（这些参数可以更新以优化感兴趣的目标函数）。 层： 接受一组输入。 生成相应的输出。 有一组可调整参数描述。 为了实现这些复杂的⽹络，我们引⼊了神经⽹络块的概念。块可以描述单个层、由多个层组成的组件或整个 模型本⾝。使⽤块进⾏抽象的⼀个好处是可以将⼀些块组合成更⼤的组件，这⼀过程通常是递归的。 import torch from torch import nn from torch.nn import functi
跟李沐学AI——动手学深度学习 PyTorch版——学习笔记pycharm版本（第二天——04-08）2023.2.27
shuige515的博客
02-26 831
沐神的讲到了基本数据操作
跟李沐学AI-动手学深度学习-卷积神经网络
哇哈哈哈的博客
09-17 1464
文章目录从全连接层到卷积二维卷积层代码实现卷积层里的填充和步幅填充步幅代码实现多个输入和输出通道多个输入通道多个输出通道多个输入和输出通道1*1卷积层二维卷积层总结多输入和多输出的代码实现总结：池化层二维最大池化层填充、步幅和多个通道平均池化层总结池化层代码实现 从全连接层到卷积 引例：分类猫和狗的图片 不变性：平移不变性、局部性。 图像的平移不变性使我们以相同的方式处理局部图像，而不在乎它的位置。 局部性意味着计算相应的隐藏表示只需要一小部分局部图像像素。 对全连接层使用平移不变性和局部性得到卷积层！
李沐大神动手学深度学习——学习笔记（不定期连载）
一个苦逼研究僧的博客
11-06 1796
李沐动手学深度学习，代码技巧，相关问题，学习记录
01深度学习笔记--李沐《动手学深度学习》
weixin_47074973的博客
10-12 829
01深度学习笔记–李沐 课前储备：包括安装、数据操作和数据预处理等 《动手学深度学习 》中文版网页第一版：https://zh.d2l.ai/ 课程主页：https://courses.d2l.ai/zh-v2 教材：https://zh-v2.d2l.ai/ 课程论坛讨论：https://ddiscuss.d2l.ai/c/16 Pytorch论坛：https://discuss.pytorch.org/ 主要内容：深度学习基础、卷积神经网络、循环神经网络、注意力机制、优化算法、高性能计算、计算机视觉、自
【动手学习深度学习（李沐）】笔记（2021-11-11）
Q7777727的博客
11-12 1251
个人在看书过程中的随笔记录，只局限于自己看得懂，方便后续查看 1 yield的一些用法和原理 Iterables迭代器，比如lists, strings, 文件，我们专门为他们开辟了内存去储存所有内容，一项一项地读取其项目称为迭代 mylist = [1, 2, 3] >>> for i in mylist: ... print(i) 1 2 3 我们可以随心所欲地读取它们，但是将所有值存储在内存中，当我们有很多值时，这并不总是您想要的。比如神经网络训练的样本选取。 Gene
动手学习深度学习-深度学习基础
qq_41273406的博客
07-09 760
本文章仅为本人在学习过程中的记录笔记，如有侵权，请联系。 李沐大神的课程地址：https://courses.d2l.ai/zh-v2/ 3.20课程 深度学习介绍：
【深度学习】李沐的深度学习笔记来了！
fengdu78的博客
08-06 712
转载自 |机器之心去年年初，机器之心知识站上线了亚马逊资深首席科学家李沐博士的「动手学深度学习」中文系列课程。这门课从3月持续到8月，超过28000人参与了直播，课程回放在 B 站的播放量达到了上百万次。这门课程基于李沐等人编写的《动手学深度学习》第二版。《动手学深度学习》既有开源项目，也有纸质书，它覆盖了90年代至今重要的模型，特别是每一章都是一个Jupyter记事本...
李沐—动手学深度学习笔记
weixin_58350863的博客
09-15 1335
将模型的输入和参数同模型的输出关联起来。回想一下，要计算线性模型的输出， 我们只需计算输入特征X和模型权重w的矩阵-向量乘法后加上偏置b。广播机制： 当我们用一个向量加一个标量时，标量会被加到向量的每个分量上。对于每一个小批量，我们会进行以下步骤:通过调用net(X)生成预测并计算损失l（前向传播）。通过进行反向传播来计算梯度。通过调用优化器来更新模型参数。4.多层感知机。
【李沐】动手学深度学习 学习笔记
热门推荐
chenxiaowai_的博客
03-21 1万+
你好！这是【李沐】动手学深度学习v2-基于pytorch版本的学习笔记教材源代码安装教程（安装pytorch不要用pip，改成conda，pip太慢了，下载不下来）个人推荐学习学习笔记本节代码文件在源代码文件的chapter_deep-learning-computation/custom-layer.ipynb中不带参数的层下面的CenteredLayer类要从其输入中减去均值。要构建它，我们只需继承基础层类并实现前向传播功能。让我们向该层提供一些数据，验证它是否能按预期工作。带参数的层。
【跟李沐学AI】
qq_44733876的博客
07-03 338
安装配置anaconda时遇到的问题
跟李沐学AI--多层感知机
wwssjj_12345678的博客
03-18 1195
跟着李沐学AI之多层感知机
跟着李沐学AI(2.3线性代数)
QQsh7的博客
11-22 739
1、标量：我们称仅包含一个数值的叫标量。标量由只有一个元素的张量表示。 2、向量：向量为标量值组成的列表，这些标量值称为向量的元素或分量。 3、张量：张量是向量的推广。 4、维度：向量的长度通常称为向量的维度。通过调用内置len(x)函数来访问张量的长度 5、张量算法： 两个形状相同的矩阵相加会在这两个矩阵上执行元素加法 两个矩阵的按元素乘法（哈达玛积） 张量乘以或加上一个标量不会改变张量的形状，其中张量的每个元素都将与标量相加或相乘。 6、降维：调用求和函数会沿所有的轴降低张量的维度..
跟着李沐学AI--丢弃法
Pineapple_Lattle的博客
01-23 301
跟着李沐学AI学习笔记--丢弃法
跟李沐学AI——实用机器学习（入门版）
日常发呆
04-24 1176
机器学习目录 2.1 探索性数据分析 2.2 数据清理 2.3 数据变换 2.4 特征工程 2.5 数据科学家的日常 Stanford University Practical machine learning 2.1 探索性数据分析 ​ 对目标的ftr数据进行处理，针对不同的信息做出不同的图形 输出数据集的行数和列数以及前十行元素 import numpy as np import pandas as pd import matplotlib.pyplot as plt import seabor
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值