感知器算法(PLA)

PLA全称是Perceptron Linear Algorithm，简称PLA

原理

《统计学习基础》 李航

感知器是二分类的现行分类模型,其输入为实力的特征向量,输出为实例的类别,取+1和-1.属于判别模型.旨在求出将训练数据进行线性化分的分离超平面.

因此,主要思想是导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,最后求出感知器判别面.

感知器算法可以分为原始形式和对偶形式,是神经网络和支持向量机的基础.

感知器模型

这部分以后再补，（公式难敲）

推导

这部分以后再补，（公式难敲）

• 几何理解

对偶问题

这部分以后再补，（公式难敲）

算法程序

先练练手，这一部分是对简单数据的分类

import numpy as np
import matplotlib.pyplot as plt

def PLA(train_x, train_y):
    m, n = train_x.shape
    train_x = np.column_stack((