最优化(11)：信赖域算法、非线性最小问题二乘算法

4.6 信赖域算法——第一小节给出了信赖域算法的框架，第二小节讨论了信赖域子问题的求解方法(迭代法、截断共轭梯度法)，第三小节主要介绍算法收敛性；

4.7 非线性最小二乘问题算法——第一小节给出了非线性最小二乘问题的一般形式，第二小节主要介绍高斯-牛顿算法，第三小节主要介绍Levenberg-Marquardt方法(主要包括LM、LMF)。