人工智能新手入门学习路线（机器学习，深度学习，神经网络）第二阶段

第二阶段 深度学习原理及实战项目强化训练

1：神经网络入门

（1）理论

1. 神经网络历史与现状
2. 神经网络的分类：全连接、卷积、循环
3. 神经网络的应用：图像、语音、自然语言处理
4. 神经网络的计算：权重、损失和梯度
5. 神经网络的优化：前向/反向传播和梯度下降
6. 全局最优、局部最优和鞍点
7. 正则化、归一化

（2）实战

LeNet与传统神经网络对比
包含知识点—— 损失函数、L1/L2正则、梯度下降/ 随机梯度下降/动量随机梯度下降

(3）目标

熟悉神经网络领域的常用术语了解很精网络在 AI 环境中的位置。

2：机器学习环境配置

1. 学习环境配置：常用软件、环境配置及机器学习库 anaconda：Python、Python科学计算包（NumPy,SciPy,Pandas）、Python数据可视化工具包（Matplotlib, seaborn）神经网络框架Tensorflow
2. 简单神经网络实现手写数字识别

Mnist手写数字识别

包含知识点——
Mnist数据集探索
Tensorflow基础概念计算图
session

并学会用 tensorflow 解一个实际问题。

3：神经网络基础

（1）理论

多层神经网络结构：输入、输出、隐层和激活函数 前向计算和损失
向量化计算和one-hot编码 sigmoid、softmax及交叉熵反向传播及迭代优化梯度下降及动量过拟合与欠拟合
正则化、批正则化及Selu Dropout

(2)实战

手写数字识别Mnist 验证码识别
包含内容—— 使用简单神经网络实现手写数字识别

（3）目标

使用不同结构的神经网络结构验证网络结构对效果的影响

4：卷积神经网络

(1)理论

卷积 padding、stride、kernel和channel 局部相关性感受野感受野的计算池化
max_pooling、average_pooling global_average_pooling 局部网络连接

(2)实战

LeNet
数据集Mnist
用LeNet实现手写数字识别局部相关性
权值共享

（3）目标

了解卷积神经网络的相关概念和基础知识