感知机简介
感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分成正负两类的分离超平面,属于判别模型。感知机学习指在求出将训练数据进行线性划分的分离超平面。
- 前提条件:线性可分的数据集。
- 损失函数:基于误分类的损失函数。
- 学习算法:梯度下降法。
- L0范数:向量中非0的元素个数。
- L1范数:向量中各元素绝对值之和。
- L2范数:向量中各元素的平方和之后开根号。
原始形式
输入:训练数据集 T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , … , ( x N , y N ) } T=\{(x_1,y_1),(x_2,y_2),\dots,(x_N,y_N) \} T={
(x1,y1),(x2,y2),…,(xN,yN)},学习率 η ( 0 < η ≤ 1 ) \eta(0<\eta\leq1) η(0<η≤1)
输出:w,b
感知机模型
f ( x ) = s i g n ( w ⋅ x + b ) f(x) = sign(w \cdot x + b) f(x)=sign(w⋅x+b)
- 选取初值 w 0 , b 0 w_0,b_0 w0,b