算法(原始形式,出自李航博士的统计学习方法)
输入:T={(x1,y1),(x2,y2)…(xN,yN)}(其中xi∈X=Rn,yi∈Y={-1,+1},i=1,2…N,学习速率为η)
输出:w, b;感知机模型f(x)=sign(w·x+b)
1. 初始化w0,b0
2. 在训练数据集中选取(xi, yi)
3. 如果yi(w xi+b)≤0
w = w + ηyixi
b = b + ηyi
4. 转至2
例题2.1
对于训练数据集,其中正例点是x1=(3,3)T,x2=(4,3)T,负例点为x3=(1,1)T,用感知机学习算法的原始形式求感知机模型f(x)=w·x+b。这里w=(w(1),w(2))T,x=(x(1),x(2))T
简单的Python实现:
import numpy as np
training_set = [[3,3],[4,3],[1,1]]
Y = [1,1,-1]
w = [0,0]
b = 0
n = 1
#check给出w,b,找到一个此时的误分点,如果没有,说明算法收敛
def check(w,b):
C = []
for