最小二乘法

title: 最小二乘法
date: 2021-08-30 13:23:20
tags:

• python
• machine learning

---

1，什么是最小二乘法

最小二乘法（least squares method），又称最小平方法，是一种数学优化建模方法。通过最小化误差的平方和寻找数据的最佳函数匹配。

利用最小二乘法可以使得数据与实际数据之间误差的平方和为最小。

2，最小二乘法目的

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-kpazlzaD-1663206032720)(image-20210830132920737.png)]

3，最小二乘法的应用

曲线拟合，最小二乘所涵盖的最佳拟合，就是残差平方综合的最小化。

残差：测值与模型提供的拟合值之间的差距

4，最小二乘法的矩阵法解法

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-tj8NrF7c-1663206032721)(image-20210830133335573.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-ZpOO3Okw-1663206032722)(image-20210830133527888.png)]

5，

参考：

最小二乘法详解：https://zhuanlan.zhihu.com/p/38128785，

维基百科-最小二乘法，

矩阵求导法则和性质：https://blog.csdn.net/crazy_scott/article/details/80557814