- 博客(5)
- 收藏
- 关注
RSS订阅原创 学习沐神课程 自用深度学习笔记04 自动求导
自动求导 储备知识:数分\高数 链式法则求导 将链式法则拓展到向量 注意求导之后的形状问题 两个例子 注意内积关于向量求导时相当于标量关于向量求导，需要变换位置（分子布局） 其它的并不难 在前面讲矩阵计算时有2-norm的求导，关于X*w关于w求梯度时，按照分子布局得到的结果是X，分母布局得到的结果是X的转置，搞清楚一点：两个向量求梯度时，谁布局就是以谁作为列向量 自动求导：计算一个函数在指定值上的导数 即自动求导是得到一个数值解？ 计算图的概念 将代码分解成操作子 再表示成无环图 即将原有的链式法则
2022-05-26 23:44:29
300
原创 学习沐神课程 自用深度学习笔记03 矩阵计算
矩阵计算 标量导数(高中内容) 亚导数 在函数不可微的时候，将导数进行拓展，在进行数据分析时导数较为关键，我们需要对不可导的点进行拓展，相当于进行求导操作时对不可导的元素进行特殊处理。 梯度 将导数拓展到向量，梯度是一个比较深层的内容，学校的数分、高数等课程直接没有讲，但从导学以及看的一些浅显的内容来看，梯度在机器学习深度学习里还是一个比较重要的名词。 对梯度的理解：梯度指向的方向是函数值变化最大的方向，在平面中，梯度方向与等高
2022-05-25 21:13:04
96
原创 学习沐神课程 自用深度学习笔记02 线性代数
线性代数 具体实现 标量 import torch x = torch.tensor(3.0) # 由一个元素3组成的张量 y = torch.tensor(2.0) # 由一个元素4组成的张量 x + y, x * y, x / y, x**y # 标量可以进行基本运算 result: (tensor(5.), tensor(6.), tensor(1.5000), tensor(9.)) 向量 通过张量的索引来访问任意元素 x = torch.arange(4) # x = [
2022-05-25 21:08:46
85
原创 学习沐神课程 自用深度学习笔记01 数据操作&数据预处理
数据操作 N维数组处理： 机器学习和神经网络的主要数据结构 RGB图片（3d） 批量RGB图片通道（4d） 视频批量（5d） 创建数组： 形状：3×4矩阵 每个元素的数据类型：例如32位浮点数 每个元素的值：如0 访问元素： ”：“的使用 a：b 表示（a，b） a：b：k k为步长 代码语句声明： import torch x = torch.arrange(12) # 产生长度为12的一维矩阵 x.shape # 输出x 的形状 x.numel() # numb
2022-05-25 21:03:36
96
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人