- 博客(2)
- 收藏
- 关注
RSS订阅原创 《共轭梯度法》读书笔记（二）——共轭方向法
最速下降法的缺陷上一节中已经提到了最速下降法容易走出“之”字形的路线，这些路线方向虽然都是梯度，但非常类似。如果每次的路线都是彼此正交的，那么即使没有选择局部变化率最大的梯度，也能够很快收敛到正解，如下图。 共轭方向法的intuition这就引出了共轭方向法 (Conjugate Directions)。一种理想但无法实现的共轭梯度法我们选择一组正交的搜索方向，记为dj(j=...
2018-08-31 16:45:49
6433
3
原创 《共轭梯度法》读书笔记（一）——最速下降法
求解问题二次型 (Quadratic form)是一个形如f(x)=12xTAx−bTx+cf(x)=12xTAx−bTx+cf(x) = \frac{1}{2}x^TAx - b^Tx + c的标量二次方程，如果AAA是一个n∗nn∗nn*n对称正定阵，那么f(x)f(x)f(x)的最小值在Ax=bAx=bAx=b时取到。计算如下： f′(x)=Ax−b=0f′(x)=Ax−b=0f'(...
2018-08-31 15:22:25
3706
4
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人