深度学习入门笔记：感知机

编程导航：nav.wenancoding.com
个人blog：wenancoding.com
gzh：【问安coding】

定义

感知机接收多个输入信号，输出一个信号。感知机的信号只有1/0两种取值，0对应“不传递信号”，1对应“传递信号”。

• x 1 ，x 2 是输入信号。
• y是输出信号。
• w 1 、w 2 是权重（w是weight的首字母）。每个变量都有权重，权重越大，对应该权重的信号的重要性就越高。
• 图中的○称为“神经元”或者“节点”。

输入信号被送往神经元时，会被分别乘以固定的权重（w 1 x 1 、w 2 x 2 ）。神经元会计算传送过来的信号的总和，只有当这个总和超过了某个界限值时，才会输出1。这也称为“神经元被激活” 。这里将这个界限值称为阈值，用符号θ表示。

导入权重和偏置

为方便后续的计算，把感知机公式改为：

对比两个公式：虽然有符号不同，但表达的内容是完全相同的。b称为偏置，w 1 和w 2 称为权重。感知机会计算输入信号和权重的乘积，然后加上偏置，如果这个值大于0则输出1，否则输出0。

−θ命名为偏置b，但是请注意，偏置b和权重w 1 、w 2 的作用是不一样的。具体地说，w 1 和w 2 是控制输入信号的重要性的参数，而偏置是调整神经元被激活的容易程度（输出信号为1的程度）的参数。比如，若b为−0.1，则只要输入信号的加权总和超过0.1，神经元就会被激活。但是如果b为−20.0，则输入信号的加权总和必须超过20.0，神经元才会被激活。像这样，偏置的值决定了神经元被激活的容易程度。另外，这里我们将w 1 和w 2 称为权重，将b称为偏置，但是根据上下文，有时也会将b、w 1 、w 2 这些参数统称为权重。

简单的逻辑电路

与门（AND gate）

• 全真为真，其余为假
• 全为1才是1，否则为0

感知机实现与门

公式的不同形式实现，后续以第二种数学公式为主

def AND(x1, x2):
    w1, w2, theta = 0.5, 0.5, 0.7
    tmp = x1*w1 + x2*w2
    if tmp <= theta:
    	return 0