概要:大规模机器学习用于处理大数据集
一、随机梯度下降法
1.1 产生
由于梯度下降法(批量梯度下降法,每次都需要考虑所有的样本)在计算规模很大的数据时比较慢,所以产生了随机梯度下降法
1.2 定义
首先随机打乱所有数,这是数据预处理的过程
(本次迭代只需要计算一个样本)
二、Mini-batch梯度下降
2.1 定义
概要:大规模机器学习用于处理大数据集
一、随机梯度下降法
1.1 产生
由于梯度下降法(批量梯度下降法,每次都需要考虑所有的样本)在计算规模很大的数据时比较慢,所以产生了随机梯度下降法
1.2 定义
首先随机打乱所有数,这是数据预处理的过程
(本次迭代只需要计算一个样本)
二、Mini-batch梯度下降
2.1 定义