1、梯度下降
设损失函数为:
其中m为样本个数,是输入的特征,是目标值,为模型预测值,就是误差了,就是所有样本的误差之和,现在要做的事就是找到一个让最小
1.1批量梯度下降
当为一个变量时,梯度下降就是一个求导的过程,当时一个向量时,梯度下降就是对中每一个分量求偏导的过程。具体求法&#x
设损失函数为:
其中m为样本个数,是输入的特征,是目标值,为模型预测值,就是误差了,就是所有样本的误差之和,现在要做的事就是找到一个让最小
当为一个变量时,梯度下降就是一个求导的过程,当时一个向量时,梯度下降就是对中每一个分量求偏导的过程。具体求法&#x