5.1 神经元模型
MP-神经元(一个用来模拟生物行为的数学模型):接收n个输入(通常是来自其他神经元),并给各个输入赋予权重计算加权和,然后和自身特有的阈值θ进行比较(做减法),最后经过激活函数(模拟“抑制”和“激活”)处理得到输出(通常是给下一个神经元)
单个M-P神经元:感知机(sgn(阶跃函数)做激活函数)、对数几率回归(sigmoid做激活函数)
多个M-P神经元:神经网络
感知机模型:激活函数为sgn(阶跃函数)的神经元:
其中,为样本的特征向量,是感知机模型的输入,
是感知机模型的参数,w为权重,θ为阈值。
再从几何角度来说,给定一个线性可分的数据集 ,感知机的学习目标是求得能对数据集中的正负样本完全正确划分的超平面,其中即为超平面方程。
n维空间的超平面( ):
- 超平面方程不唯一
- 法向量w垂直于超平面
- 法向量w和位移项b确定一个唯一超平面
- 法向量w指向的那一半空间为正空间,另一半为负空间