CNN预备知识
-
前馈神经网络
- 前馈神经网络中的信息流动仅在一个方向上发生。如果将网络视为以神经元作为其节点的图形,则节点之间的连接使图形中没有循环,则该网络架构可以被称为有向无环图(DAG)。
- 前馈神经网络最经典的例子为多层感知机(MLP)和卷积神经网络(CNN)。
-
多层感知机MLP
-
基础架构
-
分层架构
神经网络包含多层次化的处理级别,每个级别称为网络层,由许多处理节点(神经元)组成。
通常,输入通过输入层输入,最后一层为输出层,用于进行预测。中间层执行处理称为隐藏层。
-
节点
每层中的各个处理单元称为神经网络架构中的节点。
节点基本上实现了给定输入的激活函数,决定节点是否会触发。
-
密集连接
-
神经网络中的节点是互连的,可以相互通信。每个连接都有一个权重,用来指定两个节点之间连接的强度。
-
对于前馈神经网络的简单情况,信息在一个方向上从输入层到输出层顺序传送。因此,层中的每个节点都能直接连接到前一个层中的所有节点。
-
-
-
参数学习
-
权重
网络中的权重定义了神经元之间的连接,需要适当的设置这些权重,以便可以从神经网络获取所需的输出。
-
学习
自动调整网络参数的过程称为学习,这是在训练阶段完成的。该过程涉及网络显示所需任务的示例,以便它可以学习识别输入和所需输出之间的正确关系集。
-
-
-
人工神经元与生物神经元
生物神经元
对应关系:
- 人工神经元 ---- 细胞体
- 输入连接 ---- 树突
- 权重 ---- 突触
- 人工神经元计算加权输入的总和并应用激活函数 ---- 细胞体的功能
- 输出连接 ---- 轴突函数
以下是CNN部分
卷积神经网络CNN
CNN的运行方式与标准神经网络非常相似。然而,关键的区别在于CNN层中的每一个单元是二维(或高维)滤波器(也叫卷积核),其与该层的输入进行卷积运算。
CNN