机器学习入门心得

机器学习入门路线

• 入行 java 程序员一年半，突然对ML方向产生了兴趣，花了2个月左右的时间学习了一下，算是初步有个入门；
  恶补了一些基础数学知识，推到了一些ML模型，做了一些Kaggle比赛的实例，在此，从工程角度分享一下学习ML的心路历程

机器学习本质

• 个人感觉机器传统机器学习领域(不包括深度学习)实际上是一种 数学归纳法 的集合，其中按照流派应该分为两类，一种是基于线性回归方式进行的曲线拟合，另一种则是按照经典概率理论给出事件成功率推论
• 重点：机器学习的特征值决定了算法的上限，模型的优劣决定如何逼近上限，所以说，优秀的ML算法本质上是对特征值的选取与处理！！！！！

基本数学知识

• 线性代数，对于线性代数多用于向量部分，因为对于多维特征值计算，通常使用向量形式表示；
• 高数，由于多数ML模型使用残差拟合来计算其损失函数，所以对于常用行数的求导，函数特性，增减性，矩阵求导等基本计算问题需要了解
• 概率论，对于走ML残差拟合路线的同学这部分可以跳过，因为只有基于概率论模型需要以 贝叶斯假设作为理论基础，如 贝叶斯模型，EM 等；

知识学习路线

• 掌握基本数学概念之后，就可以进入ML领域内的知识学习部分了
• 首先是学习两种数学技巧，梯度下降与牛顿方法：既当我们要求解一个函数 f(x)的最小值，可以使用这两种方法进行求解
  
  • 之后就是常见的分类模型与聚类模型学习，对于大多数ML问题，我们需要面对的是分类与回归问题，少部分需要做聚类；所以重点掌握分类模型即可
  • 对于分类模型里面，最重要的肯定是 CART树模型，最常用的肯定是基于CART树基础上利用提升树算法衍生出来的GBDT与XGBOOST，基本上绝大多数ML问题都能用以上两种算法做到不错的base；