深度学习——神经网络简介

1. 简述

• ⼀种模仿⽣物神经⽹络结构和功能的计算模型，由神经元构成**（加权和+激活函数）**
• 神经网络中信息只向一个方向移动，即从输入节点向前移动，通过隐藏节点，再向输出节点移动。

2. 和机器学习的关系

• 深度学习是机器学习的⼀个⼦集，主要区别在是否包含特征⼯程

• 特征处理

  • 机器学习：人工处理设计特征
  • 深度学习：不需要人工处理，只要经过网络输出即可
    • 适合处理图像、自然语言、音频等

3. 基本部分

1. 输入层: 即输入 x 的那一层
2. 输出层: 即输出 y 的那一层
3. 隐藏层: 输入层 和 输出层 之间都是隐藏层，来自上一层的 加权和 经过 激活函数 传导到下一层，作为下一层的输入

4. 特点

• 同一层的神经元之间没有连接。
• 第 N 层的每个神经元和第 N-1层 的所有神经元相连（这就是full connected的含义)，这就是全连接神经网络。
• 第N-1层神经元的输出就是第N层神经元的输入。
• 每个连接都有一个权重值（w系数和b系数）。