一、感知机
输入x(向量),权重w(向量),偏移b(标量)
(感知机的实质是一个二分类的问题,0或1)
2、训练感知机
3、收敛定理
4、感知机存在的问题
(1)不能拟合xor问题,只能产生线性的分割面
二、多层感知机
1、学习xor
两个分类器的组合
2、sigmoid激活函数
将输入投影到(0,1)的空间中去
3、Tanh激活函数
将输入投影到(-1, 1)
4、ReLU激活函数
5、总结
多层感知机使用隐藏层和激活函数来得到非线性模型
常用的激活函数Sigmoid,Tanh,ReLU
使用Softmax来处理多类分类
超参数为隐藏层数,和各个隐藏层大小