模式识别-Python感知器原理及代码实现

实现步骤：

已知两个训练模式分别属于w1类和w2类，权向量的初始值为w1，可任意取值。若xk∈w1，wTkxk >0，若xk∈w2，wTkxk ≤0，则在用全部训练模式集进行迭代训练时，第k次的训练步骤为：

若xk∈w1，wTkxk ≤0，则分类器对第K个模式xk做出了错误分类，此时应该校正权向量，使得wk+1=wk+pxk，其中p为一个校正向量；

若xk∈w2，wTkxk >0，同样分类器分类错误，则权向量应该校正为wk+1=wk-pxk；

若以上情况不符合，则表明该模式样本在第K次中分类正确，因此权向量不变，即wk+1=wk。

若对xk∈w2的模式样本乘以（-1），有wTkxk ≤0时，wk+1=wk+px-k，则感知器算法可以统一写成：

wk+1=wk，ifwTkxk >0

wk+1=wk+pxk，ifwTkxk ≤0

 

# 导入所需库：
import numpy as np


# 导入样本数据：
w_1 = np.array([[1, 0, 1],
                         [0, 1, 1]]).T
w_2 = np.array([[1, 1, 0],
                         [0, 1, 0]]).T


# 对样本数据进行增广化
w_11 = np.ones((w_1.shape[0] + 1, w_1.shape[1]))
w_11[0:w_1.shape[0], 0:w_1.shape[1]] = w_1
# print(w_11)
w_22 = np.ones((w_2.shape[0] + 1, w_2.shape[1]))
w_22[0:w_2.shape[0], 0:w_2.shape[1]] = w_2
w_22 = 0 - w_22
# print(w_22)

# 初始化权向量
W = np.array([0, 0, 0, 0]).reshape((4, 1))
# print(w)

# 设置校正增量
p = 1

# 设置循环结束标记
flag = True
while True:
    for i in range(w_11.shape[1]):
        if np.dot(W.T, np.reshape(w_11[:, i:i + 1], (4, 1)))[0][0] > 0:
            W = W
        else:
            W = W + p * np.reshape(w_11[:, i:i + 1], (4, 1))
            print(W.T)
            flag = False
    for i in range(w_22.shape[1]):
        if np.dot(W.T, np.reshape(w_22[:, i:i + 1], (4, 1)))[0][0] > 0:
            W = W
        else:
            W = W + p * np.reshape(w_22[:, i:i + 1], (4, 1))
            print(W.T)
            flag = False
    if flag:
        break
    else:
        flag = True

实验结果分析：

经过四次迭代，得到最终的解向量为 w=-1,-1,2,0T，故最终的判别函数为-x1-x2+2x3=0。