机器学习课程总结

机器学习课程总结

1. 基本任务

1. 回归
   1. 线性回归
      1. 任务：回归&多元回归
      2. 思想：最小化所有数据点到分类平面的均方误差
      3. 模型：凸优化问题
         
      4. 算法：梯度下降法
         
   2. 决策树
   3. 支持向量机
2. 分类
   1. 逻辑回归
      1. 任务：线性分类
      2. 思想：最大化数据点的似然函数
         
      3. 模型：凸优化问题
         
      4. 算法：数值方法–>近似解（梯度下降法、牛顿法）
   2. 决策树
      1. 任务：回归&分类
      2. 思想：利用分而治之的思想对数据集进行递归划分
      3. 模型：树形结构，利用特定准则选取属性
         
      4. 算法：ID3, C