【机器学习数学基础之矩阵02】矩阵求导

多元函数导数

    对于n维函数 ，y本身没有导数，但其对于每一个分量都有偏导，于是有如下定义：

        梯度向量：，其性质类似与一元函数的一阶导。

        Hessian矩阵：

            *值得注意的是，因为偏导顺序不影响结果，所以Hessian矩阵是一个实对称矩阵。

最速下降法

    最初看这个内容的时候迷迷糊糊的，但实际上很简单的一个东西。最速下降法在一元函数中是指沿着切线方向下降。