5.4 人工神经网络ANN
XOR问题
5.4.1感知器
学习感知器模型
感知器训练阶段,就是不断调整权值参数使得输出和训练实例输出一致
算法第七步:权值更新公式
新权值等于旧权值加上一个正比于预测误差的项
线性可分:感知器学习算法保证收敛
线性不可分:算法不收敛
5.4.2 多层人工神经网络
复杂化感知器
(1)网络输入层和输出层之间包括多个中间层,即隐藏层,隐藏结点
前馈神经网络:每一层的结点仅和下一层结点连接< ---- > 递归神经网络
(2)其他激活函数
基于梯度下降的神经网络权值学习方法
1.学习ANN模型
ANN学习算法的目的是确定一组权值最小化误差的平方和:
梯度下降法使用的权值更新公式:
反向传播
2.ANN学习中的设计问题
(1)确定输入层的节点数目
(2)确定输出层的节点数目
(3)选择网络拓扑结构
(4)初始化权值和偏置
(5)去掉有遗漏值的训练样例