线性回归算法梳理

一、机器学习相关概念

1、监督学习

训练数据拥有标记信息的学习过程称为监督学习，可以理解成我们已经知道一些问题的答案，希望通过寻找这些已知答案问题之间的规律去解答其余未知答案的问题。常见的监督学习代表是分类和回归
分类问题举例：对一批邮件进行了是否垃圾邮件的标记，然后学习得到一个分类方法，去预测其他没有标记的邮件是否是垃圾邮件。
回归问题举例：已知一系列商品特征属性值以及对应的价格，希望获得对一个未知价格商品的预测

2、无监督学习

训练数据没有标签的学习过程称为无监督学习，没有提前告诉算法一些信息，希望算法找出数据集中存在的某种结构。无监督学习的代表算法是聚类。例如：给定一批西瓜的重量数据，算法根据设定聚类数目为3，自动将这批西瓜分成3类。需要注意的是，聚类的标签需要人为定义，算法只会分成0 1 2三类，需要人为的定义大，中，小标签

3、泛化能力

泛化能力指的是训练好的模型对样本的适应性能。范化性能的评估需要有效可行的实验方法，同时也需要评价标准。常用的评价标准有错误率，精度，查准率，查全率以及F1分数。