- 博客(5)
- 收藏
- 关注
原创 学习沐神课程 自用深度学习笔记04 自动求导
自动求导储备知识:数分\高数 链式法则求导将链式法则拓展到向量 注意求导之后的形状问题两个例子注意内积关于向量求导时相当于标量关于向量求导,需要变换位置(分子布局) 其它的并不难在前面讲矩阵计算时有2-norm的求导,关于X*w关于w求梯度时,按照分子布局得到的结果是X,分母布局得到的结果是X的转置,搞清楚一点:两个向量求梯度时,谁布局就是以谁作为列向量自动求导:计算一个函数在指定值上的导数即自动求导是得到一个数值解?计算图的概念将代码分解成操作子 再表示成无环图 即将原有的链式法则
2022-05-26 23:44:29 320
原创 学习沐神课程 自用深度学习笔记03 矩阵计算
矩阵计算标量导数(高中内容)亚导数 在函数不可微的时候,将导数进行拓展,在进行数据分析时导数较为关键,我们需要对不可导的点进行拓展,相当于进行求导操作时对不可导的元素进行特殊处理。梯度 将导数拓展到向量,梯度是一个比较深层的内容,学校的数分、高数等课程直接没有讲,但从导学以及看的一些浅显的内容来看,梯度在机器学习深度学习里还是一个比较重要的名词。 对梯度的理解:梯度指向的方向是函数值变化最大的方向,在平面中,梯度方向与等高
2022-05-25 21:13:04 113
原创 学习沐神课程 自用深度学习笔记02 线性代数
线性代数具体实现标量import torchx = torch.tensor(3.0) # 由一个元素3组成的张量y = torch.tensor(2.0) # 由一个元素4组成的张量x + y, x * y, x / y, x**y # 标量可以进行基本运算result:(tensor(5.), tensor(6.), tensor(1.5000), tensor(9.))向量通过张量的索引来访问任意元素x = torch.arange(4) # x = [
2022-05-25 21:08:46 93
原创 学习沐神课程 自用深度学习笔记01 数据操作&数据预处理
数据操作N维数组处理:机器学习和神经网络的主要数据结构 RGB图片(3d) 批量RGB图片通道(4d) 视频批量(5d)创建数组:形状:3×4矩阵每个元素的数据类型:例如32位浮点数每个元素的值:如0访问元素:”:“的使用 a:b 表示(a,b) a:b:k k为步长代码语句声明:import torchx = torch.arrange(12) # 产生长度为12的一维矩阵x.shape # 输出x 的形状x.numel() # numb
2022-05-25 21:03:36 114
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人