理论
支持向量机回归器
支持向量机回归器与分类器相似,关键在于从大量样本中选出对模型训练最有用的一部分向量。回归器和分类器的区别仅在于label为连续值
K临近回归器
K临近回归器任然是取特征向量最接近的k个训练样本,计算这几个样本的平均值获得结果(分类器是投票)
回归树
回归树相对于分类树的最大区别在于叶子节点的值时“连续值”,理论上来书回归树也是一种分类器,只是分的类别较多
集成回归器
随机森林和提升树本质上来说都是决策树的衍生,回归树也可以衍生出回归版本的随机森林和提升树。另外,随机森林还可以衍生出极端随机森林,其每个节点的特征划分并不是完全随机的
代码实现
数据预处理
数据获取
from sklearn.datasets import load_boston
boston = load_boston()
print(boston.DESCR)
Boston House Prices dataset
===========================
Notes
------
Data Set Characteristics:
:Number of Instances: 506
:Number of Attributes: 13 numeric/categorical predictive
:Median Value (attribute 14) is