降低损失:迭代方法
迭代学习 类似与 “Hot and Cold” 这类儿童游戏
- ”隐藏的物品 就是最佳模型
- 预测推理 逐步接近目标
以下为机器学习算法用于训练模型的迭代试错过程
整个机器学习过程中使用相同的 迭代方法 详细说明各种复杂情况,尤其处于 暴风雨中的蓝云区域
“模型” 部分将 一个或多个特征 作为输入,然后返回 一个预测(y’) 作为输出
- 先进行简化,考虑一种采用一个特征并返回一个预测的模型
y' = b + w1x1
对于线性回归问题,事实证明 初始值并不重要
随便取值:
- b = 0
- w1 = 0
假设第一个特征值是10,将该特征值带入预测函数会的得到以下结果:
y' = 0 + 0(10)
y' = 0
“计算损失” 部分是模型将要使用的 损失函数
假设使用 平方损失函数 ,将采用两个输入值:
- y’ : 模型对 特征x 的预测
- y : 特征x 对用的正确标签
最后,查看 “计算参数更新” 部分,机器学习系统检查 损失函数的值 ,为 b 和 w1 生成新值。
机器学习系统 根据所有标签重新评估所有特征 ,为损失函数生成一个新值,新值再产生新的参数值,持续迭代 ,直到该算法发现 损失可能最低的模型参数 。根据用户,也可不断迭代,知道 总体损失不再变化 或者 变化极其缓慢 为止,该模型已 收敛。