两大任务
回归:求一个理想的预测函数
分类:某函数的输出值为分立的类别
模型
带有未知的参数(parameter)的函数
权重 与输入量相乘的值
偏置 在原有输出量上增减的值
如何评估模型的合理性?——误差
平均绝对误差:预测值与理论值之差的绝对值之平均数
均方误差:预测值与理论值之差的平方之平均数
交叉熵:概率分布数据使用的误差衡量标准
误差表面:以损失为值衡量的等高线
梯度下降——最优化算法的一种
重要数学原理:偏导数
学习率:一个决定模型参数更新与收敛情况的超参数
弊端:可能只找到局部最小值而非全局最小值
重要公式
而对于更多参数的梯度下降算法也是同理,换成偏导数而已