机器学习包sklearn的使用——以波士顿房价预测为例

一、 问题定义

本项目利用马萨诸塞州波士顿郊区的房屋信息数据训练和测试一个模型，并对模型的性能和预测能力进行测试。通过该数据训练后的好的模型可以被用来对房屋做特定预测—尤其是对房屋的价值。对于房地产经纪等人的日常工作来说，这样的预测模型被证明非常有价值。
本数据集的数据特征：

图1 波士顿房价数据集特征值 1
本项目的数据集来自UCI机器学习知识库。波士顿房屋这些数据于1978年开始统计，共506个数据点，涵盖了麻省波士顿不同郊区房屋14种特征的信息。本项目对原始数据集做了以下处理：
（1）在打乱后去 90%数据作为训练集，10%的数据作为测试集
（2）有16个’MEDV’ 值为50.0的数据点被移除。 这很可能是由于这些数据点包含遗失或看不到的值。
（3）有1个数据点的 ‘RM’ 值为8.78. 这是一个异常值，已经被移除。
（4）对于本项目，房屋的’RM’， ‘LSTAT’，'PTRATIO’以及’MEDV’特征是必要的，其余不相关特征已经被移除。
（5）'MEDV’特征的值已经过必要的数学转换，可以反映35年来市场的通货膨胀效应。
（6）由于这个项目最终目的是建立一个预测房价的模型，所以我将数据集分为特征（RM、LSTAT、PTRATIO）和目标变量（MEDV）

图2 需要关注的特征值

二、 实验原理与流程

2.1实验原理

第一步操作，就是在读入housing.csv文件后，统计一下价格的最小值、最大值、均值、中值和标准差，后期做数据分析的时候，其实用到这几个统计值。
这里实现呢，本身python是自带统计函数的，但是，这里使用numpy相关的函数处理，理论上速度应该更快一些。
可以这样认为，numpy包是基于python做的优化，而pandas是基于numpy做的优化。
第二步操作，开始建模准备
选用R^2, 也就是决定系数作为模型的评测函数，一看这意思，就是要用回归分析来进行预测啦，因为决定系数，就是回归分析中最经常用的评价指标，
比如࿰