Python神经网络编程笔记（三）

一、权重更新问题

在之前的章节，我们使用误差来指导如何调整链接权重，这也是线性分类器所做的事。在计算权重时，有人会建议采用暴力方法，但随着网络层、节点和权重的增加，暴力方法会不切实际，因此提出了梯度下降的方法。

（一）“梯度下降”方法

1.二维空间函数

（1）适用场合：

<1>如果函数非常复杂，不能用代数方法轻松找到结果值，可以采用这个方法。

<2>当函数有很多参数，一些其他方法不切实际，或者会得出错误答案，这种方法依然适用。

（2）思想。

以一简单函数为例。