20201008_深度学习_线性神经网络_delta学习规则_梯度下降法_覃秉丰课程笔记

一、经过试验单层感知器不能解决异或问题或者更复杂的问题

二、delta学习规则是一种利用梯度下降法的一般性的学习规则

三、训练模型的目的是使代价函数的值最小

四、梯度下降法 一维情况&二维情况

五、梯度下降法的问题

六、通过动态改变学习率的方法改善一维的情况，一开始的时候设置较大的学习率，在接近最优解的时候减小学习率

七、解决局部最优解的问题比较复杂，待解决

八、可以用线性神经网络来解决异或问题