感知器算法的基本原理和步骤_感知器算法

前言

没什么好说的，凑个字数。

---

正文

感知器算法是最简单的线性回归算法。

先来看看一篇写得不错的感知器算法入门文章：什么是感知机？ - 游牧皮皮虾的文章 - 知乎

文中提到了感知器算法的基本模型，然后提到了梯度下降算法和感知器的联合使用( 例子1 )，以及感知器的对偶形式( 例子2 )。这里提出一点，例子 1 其实本质上就是例子 2。只不过对于计算机而言，例子 2 的计算要相对简单一点。

懒惰如我，已经靠白嫖别人的文章来省去了对基础感知机模型的讲解。现在我们来看看本篇文章的主要内容结构。

一、口袋算法(Pocket Algorithm)

感知机是最简单的线性分类算法，其本质思想就是：错了就改。

但是感知机算法有一个强前提条件——数据必须是线性可分的。这意味着，如果我们无法保证样本是线性可分的，那么根据感知机算法执行的计算机程序可能会永远找不到合适的划分边界，陷入无限迭代之中。

为此，学术界有人提出了“口袋算法”。我现在用最形象的语句来描述一下口袋算法的基本步骤：
1、执行感知器算法，将假定的划分平面放入“口袋”存储起来。

2、对划分平面执行最优化算法( 例如，梯度下降 )，并得到新的划分平面与“口袋”里的划分平面进行比较