感知机算是一个比较简单的算法了,原理网上有很多,有原始形式和对偶形式两种,感觉自己比较菜,打算慢慢从头把新版的李航统计学习算法自己实现一遍,明年就要实习了,慌得一批,这里仅把算法描述和原始形式的简单形式用python实现以下,供自己日后复习:
# -*- coding:utf-8 -*-
import numpy as np # 感知机学习算法demo
data = np.array([[3, 3, 1], [4, 3, 1], [1, 1, -1]])
x_data = data[:, :2]
y_data = data[:, -1]
w = np.array([[0, 0]])
b = 0
flag = True
while flag:
flag = False
for i in range(len(x_data)):
x_i = x_data[i, :]
y_i = y_data[i]
if y_i*(w.dot(x_i)+b)<=0:
w = w + y_i*x_i #学习率设为1
b = b + y_i
print("w = [%d,%d],b = %d" % (w[0][0], w[0][1], b))
flag = True
print(w)
print(b)