《机器学习实战》和Udacity的ML学习笔记之神经网络

1.感知器

感知器即单层神经网络模型，也是支持向量机的基础；
基本模型为:

此处x为输入,w为权重，y为输出

通过上式计算出最终的输出值 ，对应卡方函数解释如下：

2.感知器表示布尔函数

总的来说，就是通过两个输入x1,x2（取值只能是0、1），改变权重和阀值，使得加权结果和阀值比较结果输出符合布尔函数。详情见： 神经网络学习笔记

3. 感知器学习过程

当输出的结果和实际相反的时候，就说明加权结果达不到阀值或者超过了阀值。为了纠正其结果，因为无法修改数据，所以只能通过修改权重，而权重的变化量方向和 预期的输出减去实际输出一致：所以可以有以下方式去调整权值：

4.梯度沉降和

当输入为线性方程的时候，感知器是无法处理的，因为会无限的运行下去。梯度沉降就可以用来处理这一情况。
详情请参考：
神经网络学习笔记中的多层前馈学习网络

5.偏差

5.5两种学习规则的比较：

6.参考以及更多参考：

1.coursera机器学习笔记-神经网络，初识篇

2.神经网络学习笔记

3.一文弄懂神经网络中的反向传播法——BackPropagation

4.优达学成Neural Networks 课件