神经网络学习函数和训练函数有什么联系？

神经网络学习函数和训练函数有什么联系？

训练函数和学习函数是两个不同的函数 ，网络设置中两个都有。简单的说，训练函数确定调整的大算法，是全局调整权值和阈值，考虑的是整体误差的最小； 学习函数决定调整量怎么确定，是局部调整权值和阈值，考虑的是单个神经元误差的最小。所以两者不冲突，可以一样也可以不同，就像你绕着楼跑步时，地球也在绕着太阳跑，是局部与整体的区别，既有联系又有区别，辩证统一。

训练函数是如何让误差最小的一些算法，如梯度下降，共轭梯度，这里强调算法。学习函数是指，权值和阈值的调整规则，或者称更新规则。训练函数求得权值或阈值之后，由学习函数进行调整，然后再由训练函数训练新的权值或阈值，然后再调整，反复下去。

来源：https://www.zhihu.com/question/36358823/answer/208105681