岭回归与sklearn模型的保存与加载
岭回归
带有正则化的线性回归–岭回归
API:sklearn.linear_model.Ridge
语法:
sklearn.linear_model.Ridge(alpha=1.0)
具有L2正则化的线性最小二乘法
alpha:正则化力度
coef_:回归系数
正则化程度的变化,对结果的影响:正则化力度越大,权重越接近于0
Ridge优点:
岭回归得到的回归系数更符合实际,更可靠。另外能让估计参数的波动范围变小,变的更稳定。在存在病态数据(异常数据)偏多的研究中有较大的实用价值。
案例–波士顿房价数据案例----接线性回归分析
# 3.使用岭回归进行预测
rd = Ridge(alpha=1.0)
rd.fit(x_train, y_train)
print("岭回归求解方式回归系数为:", rd.coef_)
y_rd_predict = std_y.inverse_transform(rd.predict(x_test))
print("使用岭回归预测的房子价格:", y_rd_predict)
print("岭回归方式的均方误差为:", mean_squared_error(std_y.inverse_transform(y_test), y_rd_predict))
sklearn模型的保存与加载
保存和加载API:
import joblib
# 保存---格式为pkl
joblib.dump(rd,'test.pkl')
# 加载
estimator = joblib.load('test.pkl')