yaoyaoqiekenaoo的博客

原创 最小二乘

最小二乘问题可以分为线性和非线性： 参考https://blog.csdn.net/zhubaohua_bupt/article/details/74973347 线性：两种求解办法，可以参考上述文章求解，也可以进行SVD分解 非线性：因为不能直接对目标函数求导得到结果，因此就对目标函数进行泰勒展开线性化，并通过迭代不断的逼近最有值。泰勒展开分为一阶和二阶：保留一阶项就是最速下降法，往梯度相反的方...