2022.01-1-01 深度学习入门-基于python的理论与实现_深度学习入门基于python的理论与实现电子版-CSDN博客

本文链接：https://blog.csdn.net/m0_38086244/article/details/122313354

本文介绍了深度学习基础中的感知机及其应用，从单层感知机的逻辑运算（如与门）到多层感知机的非线性表示能力，探讨了其在表示复杂逻辑如异或门上的局限性。作者通过实例演示了如何构建与门和多层感知机实现异或门，以及线性与非线性空间的区别。

摘要由CSDN通过智能技术生成

2022年01月07日，第一周记录第一篇文章

本篇主要用于记录阅读《深度学习入门-基于python的理论与实现》中的随笔记录，便于加深个人理解。对于一些处理和概念会加上括号，括号内表示个人理解。

感知机(人工神经元/朴素感知机）：朴素感知机是指单层网络，指的是激活函数使用了阶跃函数。接收多个信号，输出一个信号，如下图所示：

图中的⭕️代表“神经元”(信号处理方式方式像生物中的神经元）或者“节点”（像数学中关于二叉树等的表示都是用⭕️，当时的称呼是节点）。这个感知机接收x0, x1 两个信号，输出信号y，其中x0,x1对于输出y的权重（weight, 影响程度）分别为w0,w1。输入信号送往神经元时，会乘以固定的权重，神经元y会计算传送过来的信号总和，计算公式表示为 $y = w_{0} * x_{0} + w_{1} * x_{1}$ 。当信号总和超过某个数值(好听点的名称：阈值)时，神经元y 才会输出1，否则一直输出0。当神经元输出为1时，表示该神经元被激活。如下公式：

$y = \begin{cases} 0 & \text w_{0} * x_{0} + w_{1} * x_{1} \leq \theta \\ 1 & \text w_{0} * x_{0} + w_{1} * x_{1} > \theta \end{cases}$

调整一下 $\theta$ 的位置，公式可以变为：

$y = \begin{cases} 0 & \ \ w0*x0 + w1* x1 - \theta \leqslant 0 \\ 1 & \ \ w0*x0 + w1* x1 - \theta > 0 \end{cases}$

使用 $b = - \theta$ , 则公式换为：

$y = \begin{cases} 0 & (w0 * x0 + w1* x1 + b \leqslant 0) \\ 1 & (w0 * x0 + w1* x1 + b > 0) \end{cases}$

其中b 称为偏置，用于控制神经元被激活的容易程度。

这种效果就好比一个分段函数，例如下：

$y= \begin{cases} \ \ 1 & \text{ if } x > 0 \\ \ \ 0 & \text{ if } x \leq 0 \end{cases}$

只不过这个分段函数的影响因素只有一个。

可以使用感知机解决一些简单的问题，例如设计简单的逻辑电路：与门，与非门，或门等。

参考与门的真值表，与非门的真值表，或门的真值表确定满足真值表的w0, w1,以及阈值。例如与门：

x0	x1	y
0	0	0
1	0	0
0	1	0
1	1	1

在x0,x1同时为1时，y 为1，此时可以确定无数个(w0, w1,以及阈值，只要3个取值带入公式后能保证和真值表的结果一样就行，例如：0.5，0.5，1. / 1 , 1, 1) 。确定一组w0, w1,以及阈值后就可以使用python实现这样一个与门了，例如：

def AND(x0,x1):
    w0,w1,theta = 0.5, 0.5, 0.7 # 这里可以随意设置，只要计算结果满足与门真值表即可
    tmp = x0 * w0 + w1 * w1;
    if tmp <= theta:
        return 0
    elif tmp > theta:
        return 1

如果放在图形中表示的话可以表示如下图：