sklearn 机器学习基础（线性回归、欠拟合、过拟合、岭回归、模型加载保存）

目录

1.线性关系模型

1.1损失函数：

1.2 最小二乘法之正规方程

1.3 最小二乘法之梯度下降（通用）

1.4 正规方程预测波士顿房价

1.5 梯度下降预测波士顿房价

1.6 回归性能评估

 2.欠拟合与过拟合

 2.1 解决方法

欠拟合：

过拟合：

3.岭回归（带正则化的线性回归）

 4.模型加载与保存

---

1.线性关系模型

 矩阵的乘法满足线性回归运算需求

1.1损失函数：

 优化和迭代的过程 就是求最合适的 权重的 过程

1.2 最小二乘法之正规方程

1.3 最小二乘法之梯度下降（通用）

1.4 正规方程预测波士顿房价

from sklearn.datasets import load_boston
from sklearn.linear_model import LinearRegression, SGDRegressor
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler


def myliner():
    '''
    # 线性回归预测房价
    :return:
    '''
    # 获取数据
    lb = load_boston()
    # 分割数据
    x_train, x_test, y_train, y_test = train_test_split(lb.data, \
lb.target, test_size=0.2)
    # 标准化  目标值要不要标准化处理   需要！！
    # 特征值标准化
    std_x = StandardScaler()
    x_train = std_x.fit_transform(x_train)
    x_test = std_x.transform(x_test)
    # 目标值标准化
    std_y = StandardScaler()
    y_train = std_y.fit_transform(y_train.reshape(-1, 1))  # 把目标值变成二维
    y_test = std_y.transform(y_test.reshape(-1, 1))
    # 预测
    # 正规方程求解预测
    lr = LinearRegression()
    lr.fit(x_train, y_train)
    print(lr.coef_)
    #  预测测试集的房子价格  前面进行了标准化，这里通过inverse 再转换回去
    y_predict = std_y.inverse_transform(lr.predict(x_test))
    print("测试集里每个房子的预测价格：", y_predict)

    return None


if __name__ == '__main__':
    myliner()