感知机

感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，只取+1、-1二值。感知机学习旨在求出将训练集进行线性划分的分离超平面。为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。

n维仿射集：

1.一维仿射集：在给定n维的仿射空间中，一条直线上任意一点i可由直线的方向向量v和直线上一点p决定。即：

i = t * v + p

2.二维仿射集：在给定n维的仿射空间中，一个平面i可由空间上一点p和两个线性无关的向量v、w决定。即：

i = t * v + s * w + p

3.k维仿射集： 由1，2中推广，给定的n维空间中，k维仿射空间由空间中的一点P和k个线性无关的向量v1,v2,v3,…,vk决定,k维仿射空间的方程如下所示，其中i表示k维仿射空间中的任意一点。即：

i = t1 * v1 + t2 * v2 + … +tk * vk +p

超平面：将整个空间分成两个闭半空间的维仿射集。

1.二维空间中的超平面：假设二维空间中的点集i=(x2,x2),满足下式,其中a,b,c为标量，且a,b不同时为0： ax1 + bx2 + c = 0。令t=x1,则点集i可以表示为： i=(x1,x2)=(t,-at/b-c/b)=t(1,-a/b)+(0,-c/b)由上式可知道，这表示的是方向向量为（1，-a/b),并经过（0，-c/b)的直线。记向量n=(a,b),则 n*i+c=0，记直线上另一点为P=(p1,p2),则n*(i-P)=0（其中n为法向量）。
2.N维空间的超平面：在给定的N维空间中，超平面由空间中的一点P和一个向量n决定，超平面方程如下: n*(i-P)=0。若 i=(i1,i2,..,iN),n=(n1,n2,..,nN), p=(p1,p2,..pN), 则超平面方程可以表示成：n1*i1+n2*i2+…nN*iN+d=0，其中d = -n * P。

空间中任意一点到超平面的距离计算：
设：超平面的法向量为：w，超平面的截距为：b，P是超平面上一点，Q是超平面外一点，S为点Q到超平面的距离：
S = |（Q - P） * n| / |n| = |（n * Q） + d| / |n|