基于sklearn的几种回归模型

理论

支持向量机回归器

支持向量机回归器与分类器相似，关键在于从大量样本中选出对模型训练最有用的一部分向量。回归器和分类器的区别仅在于label为连续值

K临近回归器

K临近回归器任然是取特征向量最接近的k个训练样本，计算这几个样本的平均值获得结果（分类器是投票）

回归树

回归树相对于分类树的最大区别在于叶子节点的值时“连续值”，理论上来书回归树也是一种分类器，只是分的类别较多

集成回归器

随机森林和提升树本质上来说都是决策树的衍生，回归树也可以衍生出回归版本的随机森林和提升树。另外，随机森林还可以衍生出极端随机森林，其每个节点的特征划分并不是完全随机的

代码实现

数据预处理

数据获取

from sklearn.datasets import load_boston
boston = load_boston()
print(boston.DESCR)

Boston House Prices dataset
===========================

Notes
------
Data Set Characteristics:  

    :Number of Instances: 506 

    :Number of Attributes: 13 numeric/categorical predictive
    
    :Median Value (attribute 14) is