大数据学习笔记之四十六 深度学习训练加速方法

深度学习训练的目的有以下几种：

1)网络结构选择

2)神经元个数的设定

3)权重参数的初始化

4)学习率的调整

5)Mini-batch的调整

常见的深度学习训练的方法有6种：

1)GPU急速

2)数据并行

3)模型并行

4)数据并行和模型并行的混合模式

5)CPU集群

6)GPU集群