线性回归--实现西瓜书(3.11)公式

实现西瓜书(3.11)公式

一.工具
1.Python3.8
2.Jupyter NoteBook
1和2请看:安装Jupyter NoteBook
3.Numpy
命令行 : pip3 install numpy
4.matplotlib
命令行 : pip3 install matplotlib

import numpy as np
import matplotlib.pyplot as plt

二.代码及注释
1.需要线性回归的数据¹

X = np.random.rand(100, 1)
Y = 6 * X + np.random.randn(100, 1)

可视化:

plt.scatter(X, Y)
plt.show()

2.西瓜书的公式及实现
(1)

代码²:

X_b = np.c_[X, np.ones((100, 1))]

为便于讨论，我们把w和b吸收入向量形式W = (w；b),得Y = X·W

(2)

代码³:

theta_best = np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(Y)

3.结果
代码:

ansY = theta_best[0] * X + theta_best[1]
plt.scatter(X, Y)
plt.plot(X, ansY, color = "red")
plt.show()

三.扩展阅读

---

1. np.random.rand() 和 np.random.randn()讲解 ↩︎

2. 对numpy.c_的理解 ↩︎

3. numpy, 计算矩阵的逆 + 计算两个数组的点积 ↩︎