Z_L0715的专栏

转载 梯度及梯度下降

　　该文章讲述了梯度下降的一点基础知识，包括多元函数求偏导，函数的驻点、极值点、鞍点，凸函数和梯度下降法。在梯度下降法中，使用一阶泰勒级数展开式能够证明梯度是下降的。1、假设有多元函数 F(x) = F(x1,x2,...,xn), $\frac{\partial F}{\partial x}$ :表示函数F分别对每一个自变量x求导。　举例：二元函数F(x1,x2) =...