Python Machine Learning - 感知器算法

最新推荐文章于 2024-07-18 22:17:35 发布

liuchengxu_

最新推荐文章于 2024-07-18 22:17:35 发布

阅读量5.4k

点赞数

分类专栏： Machine Learning Python Machine Learning 文章标签： python 机器学习感知器算法神经网络 perceptron

本文链接：https://blog.csdn.net/simple_the_best/article/details/54619495

版权

本文介绍了感知器算法的工作原理，将其与生物学神经元模型联系起来，并详细阐述了激活函数、权重更新规则以及算法的收敛条件。此外，还提供了一个二维数据集的权重更新示例，说明了权重如何根据样本特征调整，以提高分类准确性。最后，提到了Python实现的感知器算法代码。

摘要由CSDN通过智能技术生成

02_01

感知器 (perceptron) 算法的历史就不介绍了，大意就是想法来自生物学的神经元的一些工作方式，多个生物信号 (input singals) 到达树突 (dentrites)并进入细胞核 (cell nucleus)，如果这些信号的效果累加达到一个阈值，那么通过轴突 (axon) 产生一个输出信号 (output signals)。在有监督学习与分类的背景下，这样的算法可被用来预测一个样本是否属于某个类别。

正式地，我们可以把这个问题表述为一个二分类任务，并且为了简单起见，将这两个类别分别定义为 1 (正类) 与 -1（负类）。接着定义一个激活函数 (activation function) $\phi (z)$ , 它输入的是 $\mathbf{x}$ 与其对应的权重向量 $\mathbf{w}$ 的一个线性组合, 这里的 $z$ 也就是所谓的 net input ( $z=w_1x_1 + \ldots + w_mx_m$ ):

w = ⎡ ⎣ ⎢ ⎢ ⎢ w 1 ⋮ w m ⎤ ⎦ ⎥ ⎥ ⎥, x = ⎡ ⎣ ⎢ ⎢ ⎢ x 1 ⋮ x m ⎤ ⎦ ⎥ ⎥ ⎥

$\mathbf{w} = \left[ \begin{array}{c} w_{1} \\ \vdots \\ w_{m} \end{array} \right], \mathbf{x} = \left[ \begin{array}{c} x_{1} \\ \vdots \\ x_{m} \end{array} \right]$

对于一个指定样本 $\mathbf{x}^{(i)}$ , 如果 $\phi(z)$ 的输出值大于预先定义的一个阈值 $\Theta$ , 那么就预测其类别 1. 否则，预测为类别 -1. 在感知器算法中，激活函数 $\phi(\cdot)$ 是一个简单的单位阶跃函数 (unit step function), 有时也叫赫维赛德阶跃函数 (Heaviside step function):