纯数学手段实现基于最小二乘法的线性回归

终于，抱着兴趣，我利用纯数学的手段实现了基于最小二乘法的线性回归模型。这是我昨天的目标（今天我还没有睡觉呢，假设我睡觉后是明天的话），那么我明天希望能够利用纯数学手段实现基于随机梯度下降的线性回归算法模型。

        下面是笔者手打的最小二乘法的数学原理,然后我们再利用数学手段对其进行实现即可，也就是利用多元函数的极值求出偏导数而已，其正面过程请参见同济版《高等数学》P110.

---

---

 

---

---

---

---

---

---

利用Python代码表示如下：

#首先引入数据集x,和y的值的大小利用Python的数据结构：列表，来实现。

y=[4,8,13,35,34,67,78,89,100,101]

x=[0,1,2,3,4,5,6,7,8,9]

#然后再引入Python当中的绘图库，用于检测我们利用线性回归得到的结果是否正确

from matplotlib.font_manager import FontProperties

font = FontProperties(fname=r"c:\windows\fonts\msyh.ttc", size=15)

import matplotlib.pyplot as plt

k = 0

for i in range(10):

    j = k

    k = j+i**2

    print(k)