向量微积分

机器学习里经常用到标量和向量、向量和向量的求导，其实只是把向量对应位置的元素进行求导。但是，这些元素的组织方式有两种，分别是分子布局和分母布局，二者并无本质上的差别，只是结果相差个转置。这两种布局都存在，初学者常常混淆。

例:
求$\frac{\partial y}{\partial x}$，其中y是n维列向量，x是标量。

两种布局容易混淆，建议选择自己习惯的布局即可。这里我们选择分子布局进行后面的说明。
符号约定：
小写粗体：值为向量；大写粗体：值为矩阵；小写斜体：值为标量。以a、b、c、d表示和x无关的函数，u=u(x)，v=v(x)，f、g、h是函数。

文章参考：https://blog.csdn.net/wenjianmuran/article/details/90669933