神经网络案例实践之单层感知器求解-学习篇

二维线性分类问题

单层感知器作为线性分类器被广泛应用
问题分析：
首先给了五个输入样本，输入样本和位置信息如下所示，现在要学习一个模型，在二维空间中把两个样本分开，输入数据是个矩阵，矩阵中有五个样本，样本的维度是三维，三个维度分别表示偏置，x坐标，y坐标。对应的标签Y是 区分矩阵中的样本，例如：[1,2,3]对应1，[1,4,5]对应1，[1,1,1]对应-1，以此类推。
怎么样使用单层感知器求解这个问题？

#输入数据，三个维度分别表示偏置，x坐标，y坐标
X = np.array([[1,2,3],
              [1,4,5],
              [1,1,1],
              [1,5,3],
              [1,0,1]])
#标签
Y = np.array([1,1,-1,1,-1]) #代表X的每条的类型

问题分析：

1.单层感知器（Perceptron）简介：





x,y表示实际的二维坐标

单层感知器求解

令误差函数为L，预测值为 y，阈值函数f 为符号函数

基于梯度下降法的参数更新为：

Python求解单层感知器算法：

import numpy as np
import matplotlib.pyplot as plt
n = 0  #迭代次数
lr = 0.10  #学习速率
#输入数据，三个维度分别表示偏置，x坐标，y坐标
X = np.array([[1,2,3],
              [1,4,5],
              [1,1,1],
              [1,5,3],
              [1,0,1]])
#标签
Y = np.array([1,1,-1,1,-1]) #代表X的每条的类型
#要学习的模型，f(WX+B)，对于正样本mf(WX+B)>0,对于负样本，f(WX+b)<0

#权重W初始化，取值范围-1 - 1
W = (np.random.random(X.shape[1]) -0.5) * 2

#可视化函数  使输入数据参数可视化
def get_show():
    #正样本
    all_positive_x = [2,4,5]
    all_positive_y = [3,5,3]
    #负样本
    all_negative_x = [1,0]
    all_negative_y = [1,1]
    #计算分界线斜率与截距，直线方程 wx+b = W[0]*1 + W[1]*X + W[2]*Y = 0  y = kx + b,二维坐标的一条直线
    k = -W[1] / W[2]
    b = -(W[0]) / W[2]
    #生成x刻度
    xdata = np.linspace(0,5) #生成连续的刻度值
    plt.figure()
    plt.plot(xdata, xdata*k+b,'r')
    plt.plot(all_positive_x,all_positive_y,'bo')
    plt.plot(all_negative_x,all_negative_y,'yo')
    plt.xlabel("x")
    plt.ylabel("y")
    plt.show()

#更新权值函数
def get_update():
    #定义所有全局变量
    global X,Y,W,lr,n
    n += 1
    #计算符号函数输出
    new_output = np.sign(np.dot(X,W.T))
    #更新权重
    new_W = W + lr*((Y - new_output.T).dot(X))
    W = new_W

def main():
    for _ in range(100):
        get_update()
        new_output = np.sign(np.dot(X,W.T))
        if(new_output == Y.T).all():
            print("迭代次数：", n)
            break
    get_show()

if __name__ == '__main__':
    main()

执行结果如下(有多个结果)：