线性回归与非线性回归：1.3多项式回归及实战

假如我们不是要找直线或者超平面，而是一个需要找到一个用多项式所表示的曲线或者超平面，例如二次曲线：来拟合样本点的分布。

多项式回归可以写成下面的这种形式：

---

基于sklearn的多项式回归：

import numpy as np
import matplotlib.pyplot as plt
from sklearn.preprocessing import PolynomialFeatures
from sklearn.linear_model import LinearRegression

# 载入数据
data = np.genfromtxt("job.csv", delimiter=",")
x_data = data[1:,1]
y_data = data[1:,2]

x_data = x_data[:,np.newaxis]
y_data = y_data[:,np.newaxis]

# 创建并拟合模型
model = LinearRegression()
model.fit(x_data, y_data)

# 定义多项式回归,degree的值可以调节多项式的特征
poly_reg  = PolynomialFeatures(degree=5) 
# 特征处理
x_poly = poly_reg.fit_transform(x_data)
# 定义回归模型
lin_reg = LinearRegression()
# 训练模型
lin_reg.fit(x_poly, y_data)

# 画图
plt.plot(x_data, y_data, 'b.')
plt.plot(x_data, lin_reg.predict(x_poly), c='r')
plt.title('Truth or Bluff (Polynomial Regression)')
plt.xlabel('Position level')
plt.ylabel('Salary')
plt.show()