所有优化模型都是通过求导才能进行优化，笔记来源李沐老师。
一、标量求导，导数就是切线的斜率
二、亚倒数
三、梯度
1.情况一：y是标量而x是向量，梯度指向变化值最大的方向
<>代表内积
2.情况2，y是标量，x是列向量
3.情况三，x，y都是向量，会变成矩阵
文章介绍了优化模型的核心——求导，它对应于切线的斜率。梯度在不同情况下有不同的含义，当y是标量x是向量时，梯度指向最大变化方向；若x是列向量，梯度涉及内积运算；而当x,y均为向量时，会得到矩阵形式的梯度。这些概念在机器学习和深度学习的优化算法中至关重要。
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
