本文探讨了最速下降法在优化过程中的迭代方向特性。通过分析二次函数的迭代轨迹，证明了每次迭代方向间为何垂直。利用一维精确线搜索选择步长，确保迭代方向与梯度负向垂直，从而加速收敛。文章鼓励深入理解每个小知识点，不遗漏任何可能导致困惑的细节。
碎片化知识点3
小唠嗑
今天是假期第二天，白天到后海逛了一下吃了很多小吃，顺便还体验了一下老北京铜锅是啥感觉，原来就是开水加枸杞红枣锅底涮肉哈哈哈，对于湖南人的我来说简直太清淡了。不过保留了食材最鲜的味道，而且对于减脂的小伙伴来说如果不加麻酱简直不要太合适。
晚上回来还是准备把昨天没发出来的几个小碎片化知识发出来。今天来聊一下最速下降法每次迭代方向之间的关系。话不多说！
Let 's begin ！
为什么最速下降法每次迭代方向都垂直？
首先我们来看一下，最速下降法的迭代轨迹图（以二次函数为例）。
我们可以看到，其收敛的曲线是折线，且每次的迭代方向都是互相垂直的。
现在让我们简单证明一下：
证明：我们已知最速下降法的迭代公式是： x k + 1 = x k − λ ∇ f ( x k ) x_{k+1}=x_k-\lambda\nabla f(x_k) xk+1=xk−λ∇f(xk
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
