感知机 《深度学习入门 基于Python的理论实现》第二章

---

layout: post
title: 深度学习入门 基于Python的理论实现
subtitle: 第二章 感知机
tags: [Machine learning, Reading]

---

第二章 感知机

这一个系列是深度学习入门-基于Python的理论与实现的学习记录。看之前的文章，就知道开的新坑实在是太多了。刚好现在是寒假，有比较完整的时间，所以想着用这一段时间做些事情。

暂时是这么安排的，对于学习的过程，一方面写文章，一方面做视频，不清楚做这些的时间成本怎么样，先试试看。

买过各种各样的机器学习的书了，这次打算从底层好好的过一遍。不管是原理还是实现都尽可能贴近原理。

这里是本书的第二章。由于第一章是Python的入门知识，在这里就不需要再赘述了。Dirac

2.1 感知机的概念

感知机(Perceptron),是由美国学者Frank Rosenblatt在1975年提出。感知机是作为神经网络起源的算法，因此对感知机的学习是后续内容的开始。

感知机，顾名思义是感知，英文perceptron，来源于percept，代表认知，认识。所以在这里，感知机接收多个信号，这个信号是流动的，类似于电流或水流。一般来说，0代表不传递，1代表传递，也就是常见的0代表关，1代表开。
下图就是一个例子。

这个结构的图大家应该不会陌生，多少接触过机器学习的人应该都看过，但是应该注意的是他和神经网络中的内容有一些不同。在这里能看见是一个接收两个输入信号的感知机。$x_1$,$x_2$是输入信号，$y$是输出信号，${\omega }_1$,${\omega }_2$代表权重。图中的圆圈叫做神经元或节点。运算的规则是输入信号被送往神经元时，会分别乘以固定的权重，神经元会计算传递过来的信号的总和，当大于某一个值时，会输出1，这叫做神经元被激活，这个值被称为阈值。用符号$\theta$表示。用公式表示如下：

$$y=\{\begin{array}{ll}0& \left(w_1{x}_1+w_2{x}_2⩽\theta \right)\\ 1& \left(w_1{x}_1+w_2{x}_2>\theta \right)\end{array}$$

这个公式非常简单，权重的大小代表信号的重要性，权重越大越重要。

2.2 简单逻辑电路

2.2.1 与门

学习了基本的概念，现在我们希望去做点什么，解决一点实际的问题。首先我们看一下与门的实现。首先简单说一下什么是与门，已经明白的读者可以跳过这个部分。总结一句话，与门是只有当两个输入信号都是1的时候，输出为1，否则输出为0。下面直接放出真值表。

$x_1$	$x_2$	$y$
0	0	0
1	0	0
0	1	0
1	1	1

看完了与门的基本结构和感知机的原理，我们思考一下该如何实现。对真值表中的数值分别带入不等式。可得符合以下条件即可满足条件。

{ θ ⩾ 0 θ ⩾ ω 1 θ ⩾ ω 2 ω 1 + ω 2 > θ \left\{\begin{array}{ll} \theta \geqslant 0 \\ \theta \geqslant \omega_1\\ \theta \geqslant \omega_2\\ \omega_1 + \omega_2 > \theta \end{array}\right. ⎩⎪⎪⎨⎪⎪⎧​