跟李沐学AI-动手学深度学习1

整体内容

神经网络可以理解为是一种语言
在这里插入图片描述
数学和代码的结合,道术结合,关键在动手
在这里插入图片描述
是什么,怎么做,为什么这样
在这里插入图片描述
发展知识和应用
在这里插入图片描述
广告点击预测三个步骤
在这里插入图片描述
预测和训练
在这里插入图片描述
模型控制广告展现
在这里插入图片描述

数据格式

0维,1维,2维
在这里插入图片描述
图片,批量图片,视频多了时间维度
在这里插入图片描述
形状,类型,值
在这里插入图片描述
区域跳着访问
在这里插入图片描述
形状至少是一维的,x.numel是元素个数
在这里插入图片描述
创建全0或者全1
在这里插入图片描述

通过python本身的数据格式创建
在这里插入图片描述
加减乘除以及拼接
在这里插入图片描述
所有元素求和,是标量
在这里插入图片描述
两个不同维度的数据怎么相加,广播机制
在这里插入图片描述

批量数据赋值
在这里插入图片描述
频繁赋值,会导致占用过多内存,因为是可变对象,所以赋值会开辟心的内存空间
在这里插入图片描述
减少内存开销
在这里插入图片描述
张量和numpy以及python标量的转换
在这里插入图片描述
数值型,补充为缺失的
在这里插入图片描述

增加多个特征,有则补为1,没有则补为0
在这里插入图片描述
reshape后并没有改变原来的地址id
在这里插入图片描述
多维数组numpy是个计算机的概念,tensor张量是个数学上的概念

线性代数

标量
在这里插入图片描述

向量的元素由标量构成
在这里插入图片描述

向量的点乘
在这里插入图片描述
向量扩展,构成矩阵
在这里插入图片描述

矩阵乘以向量的原理
在这里插入图片描述
向量通过矩阵的运算,把向量在空间进行了扭曲
在这里插入图片描述
矩阵的乘法
在这里插入图片描述
矩阵的长度
在这里插入图片描述

对称矩阵和反对称矩阵,正定矩阵
在这里插入图片描述
特殊矩阵
在这里插入图片描述

不变矩阵改变方向的向量,叫做特征向量,大小可能改变,方向不变
在这里插入图片描述
标量是由只有一个元素的张量构成,也是个张量
在这里插入图片描述

标量组成了向量,向量组成了矩阵
在这里插入图片描述
标量》向量》矩阵
在这里插入图片描述
clone可以分配一个心的内存
在这里插入图片描述

所有元素都可以相乘或者相加,矩阵和标量
在这里插入图片描述
指定维度的求和运算,可以安装多个维度求和,按那个维度,那个维度就消除了
在这里插入图片描述
按某个维度求和,并且保留那个维度,方便做广播机制
在这里插入图片描述

点积运算
在这里插入图片描述
矩阵乘法
在这里插入图片描述
标量
在这里插入图片描述
矩阵拉成向量计算的范数
在这里插入图片描述
按特定维度得出的计算结果
在这里插入图片描述

pytorch也好其他语言也好,都是工具,重点是掌握一个思想
在这里插入图片描述

求导数

亚导数
在这里插入图片描述求导
在这里插入图片描述列向量的导数是一个行向量
在这里插入图片描述
在这里插入图片描述
分子是向量
在这里插入图片描述
向量关于向量是矩阵
在这里插入图片描述在这里插入图片描述扩展到矩阵
在这里插入图片描述
在这里插入图片描述
标量求导,拓展到向量求导
在这里插入图片描述
线性代数的求导
在这里插入图片描述

复合函数,向量求导函数
在这里插入图片描述
符号公式求导,定义即方法求导
在这里插入图片描述
计算图就是流程图
在这里插入图片描述

显示的构造
在这里插入图片描述
隐式的构造
在这里插入图片描述
求导法则,正向和逆向
在这里插入图片描述

正向和反向
在这里插入图片描述
复杂度计算
在这里插入图片描述
pytorch自动求导
在这里插入图片描述
梯度存储
在这里插入图片描述

谁关于谁的求导,定义和明确清楚
在这里插入图片描述
梯度清零,就是导数清零,因为进行存储了
在这里插入图片描述
大部分情况是堆标量求导,不是对向量求导
在这里插入图片描述
挪到,计算图外,把向量常数化,可以把网络的某部分参数固定
在这里插入图片描述
复杂的控制流的时候求导
在这里插入图片描述

学习建议论文代码地址,非常实用

https://paperswithcode.com/

在这里插入图片描述

在这里插入图片描述
直播设备
在这里插入图片描述
落地的最新课程
在这里插入图片描述

学习方法

看》书效果最后
看听》视频
看听动手》实战
嘴讲出来》最好
斯坦福最新课程:
https://space.bilibili.com/216720985
李沐课程学习系列:
https://space.bilibili.com/1567748478?spm_id_from=333.824.b_765f7570696e666f.1

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值