优化方法:牛顿法

求解 g(x)=0 利用泰勒公式展开 用已知的点 x t − 1 x^{t-1} xt1估计 x t x^t xt

1 一阶展开

求 解 g ( x ) = 0 求解g(x)=0 g(x)=0
g ( x ) ≈ g ( x k ) + g ′ ( x k ) ( x − x k ) = 0 g(x)\approx g(x_k)+g\prime(x_k)(x-x_k)=0 g(x)g(xk)+g(xk)(xxk)=0
x k + 1 = x k − 1 g ′ ( x k ) g ( x k ) x_{k+1}=x_k-\cfrac1{g\prime(x_k)}g(x_k) xk+1=xkg(xk)1g(xk)

2 二阶展开

求 解 g ( x ) = 0 求解g(x)=0 g(x)=0
g ( x ) ≈ g ( x k ) + g ′ ( x k ) ( x − x k ) + 1 2 g ′ ′ ( x k ) ( x − x k ) 2 g(x)\approx g(x_k)+g\prime(x_k)(x-x_k)+\cfrac12g\prime\prime(x_k)(x-x_k)^2 g(x)g(xk)+g(xk)(xxk)+21g(xk)(xxk)2
抛物线 一定有最值(一般用min)求导 令导数=0
g ′ ( x k ) + g ′ ′ ( x k ) ( x − x k ) = 0 g\prime(x_k)+g\prime\prime(x_k)(x-x_k)=0 g(xk)+g(xk)(xxk)=0
x k + 1 = x k − g ′ ( x k ) g ′ ′ ( x k ) x_{k+1}=x_k-\cfrac{g\prime(x_k)}{g\prime\prime(x_k)} xk+1=xkg(xk)g(xk)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值