机器学习基础-基础概念（Datawhale X 李宏毅苹果书 AI夏令营）

1机器学习基础

1.1基础概念

• 机器学习（Machine Learning）：让机器具备找一个函数的能力
  • 回归（regression）
  • 分类（classification）
  • 结构化学习（structed learning）
• 模型（model）：带有未知的参数（parameter）的函数
• 特征（feature）：函数中已知
• 权重（weight）
• 偏置（bias）
• 标签（label）：真实值
• 损失函数（loss）：损失函数输出的值代表，现在如果把这一组未知的参数，设定某一个数值的时候，这笔数值好还是不好
• 估测值和实际值的差距：
  • 平均绝对误差（MAE）$$e=|\hat{y}-y|$$
  • 均方误差（MSE）$$e=(\hat{y}-y{)}^2$$
  • 交叉熵（cross entropy）：$y$ 和 $\hat{y}$ 都是概率分布
• 误差表面（error surface）：不同的参数计算损失，画出来的等高线图
• 解一个优化问题：梯度下降法（gradient descent）
  • 全局最小值和局部最小值