08_手写多项式回归

---

博文配套视频课程：24小时实现从零到AI人工智能

---

多项式回归场景

直线回归研究的是一个依变量与一个自变量之间的回归问题，但是，在畜禽、水产科学领域的许多实际问题中，影响依变量的自变量往往不止一个，而是多个，比如绵羊的产毛量这一变量同时受到绵羊体重、胸围、体长等多个变量的影响，因此需要进行一个依变量与多个自变量间的回归分析，即多元回归分析

研究一个因变量与一个或多个自变量间多项式的回归分析方法，称为多项式回归（Polynomial Regression）。如果自变量只有一个时，称为一元多项式回归；如果自变量有多个时，称为多元多项式回归。在一元回归分析中，如果依变量y与自变量x的关系为非线性的，但是又找不到适当的函数曲线来拟合，则可以采用一元多项式回归

一元m次多项式回归方程为：
二元二次多项式回归方程为：

创建待分析的样本

import numpy as np
import matplotlib.pyplot as plt
# 在指定[-3,3]随机生成size个随机数(代表的特征值)
x = np.random.uniform(-3,3,size=100)
print(x,x.shape)
# 模拟目标值(y) 与x并不是简单的线性关系
y = 0.5 * x**2 + x + 2 + np.random.normal(0,1,size=100)

多项式预测样本

# y = w * x + b ===>  y = w1 * x**2 + w2 * x + b
print((X**2).shape)
# hstack 在水平方向追加, vstack垂直方向叠加
X2 = np.hstack([X**2,X])
print(X2.shape)
# 线性回归模型进行训练
lr = LinearRegression()
lr.fit(X2,y)
# 训练过程就是寻找最佳权重和偏置的过程
print('权重',lr.coef_,'偏置',lr.intercept_)
y_predict = lr.predict(X2)
# 真实的数据集采用散点图显示
plt.scatter(x,y)
# 预测数据集，采用线形图显示，必须按照x轴从小到大进行绘制
# plt.plot(x,y_predict,color='r')
plt.plot(np.sort(x),y_predict[np.argsort(x)],color='r')
plt.show()
print(lr.score(X2,y))