深度学习：深度调参

https://blog.csdn.net/qq_20259459/article/details/70316511

一. 参数是指那些？

参数其实是个比较泛化的称呼，因为它不仅仅包括一些数字的调整，它也包括了相关的网络结构的调整和一些函数的调整。下面列举一下各种参数：

1. 数据处理（或预处理）相关参数：

enrich data(丰富数据库)，
feature normalization and scaling（数据泛化处理）,
batch normalization（BN处理）

2. 训练过程与训练相关的参数：

momentum term（训练动量）,
BGD, SGD, mini batch gradient descent(这里的理解可以看我之前的一篇博 客：http://blog.csdn.net/qq_20259459/article/details/53943413 ）。
number of epoch,
learning rate(学习率），
objective function(衰减函数),
weight initialization(权值初始化),
regularization(正则化相关方法),

3. 网络相关参数：

number of layers,
number of nodes,
number of filters,
classifier(分类器的选择),
 </