Batch_Size 的说明

先说结论

Batch_Size 的意思是一次训练所选取的样本数

Batch Size的大小影响模型的优化程度和速度。同时其直接影响到GPU内存的使用情况，假如你GPU内存不大，该数值最好设置小一点。

———————————————————————————————————————————————————

细致说明

1.使用的原因

正如Batch_Size的定义一样，我们使用Batch_Size是为了从样本中提取出一小撮来。究其原因无外乎总样本太多，一次性放进程序里，运算的时间成本太大，不如先抽出一小部分试试水。

2.使用方法

Batch_Size = 1，就是提取一个样本

3.注意事项

这是个参数，是名词，不是动词，它只是说明提取样本的数目。

———————————————————————————————————————————————————

常见问题

1.不同的Batch Size各自有什么效果

Batch Size=0，梯度准确，只适用于小样本数据库 
Batch Size=1，梯度变来变去，非常不准确，网络很难收敛。 
Batch Size增大，梯度变准确， 
Batch Size增大，梯度已经非常准确，再增加Batch Size也没有用

———————————————————————————————————————————————————

应用场景

读取图片数据、音频数据

转载于:https://my.oschina.net/u/4135288/blog/3054060