深度学习基础知识

什么是深度学习？

    人工神经网络（artifitial neural network, ANN）,即试图模仿人脑的神经元之间传递和处理信息的方式。深度学习是机器学习（人工神经网络）的一个分支。

深度学习的组成

    深度学习的网络由输入层、隐藏层、输出层组成（如下图所示）：

• 输入层（Input layer）：输入训练数据
• 隐藏层（Hidden layer）：提取特征——几层至几千层
• 输出层（Output layer）：输出计算结果

深度学习的网络组成

a.节点：各层网络的连接点

b.激活函数（activation function）：一般为非线性函数，将通过该节点的输入做一次非线性变化

c.成本函数（cost function）：评估在特定输入值下，节点输出结果相对输入值的偏差

深度学习的两种传播方式

1.前向传播（forward propagation）：图像预处理->输入层输入网络->隐藏层提取特征->输出层输出结果

2.反向传播（backward propagation）：不断调整每一层的权重参数，使损失值最小。

——本文参考自李嘉璇《TensorFlow 技术解析与实战》