数值优化-梯度下降法

数值优化——梯度下降法

注:个人笔记,图片来源深蓝数值优化课程

无约束优化问题

一个无约束优化问题可以记为:

min ⁡ f ( x ) x = ( x 1 , … , x n ) ∈ R n f : R n ↦ R \min{f(x)}\\\begin{aligned}&x=\left(x_1,\dots,x_n \right)\in\mathbb{R}^n\\&f:\mathbb{R}^n\mapsto\mathbb{R}\end{aligned} minf(x)x=(x1,,xn)Rnf:RnR

线搜索梯度下降法

请添加图片描述
迭代公式: x k + 1 = x k − τ ∇ f ( x k ) x^{k+1}=x^{k}-\tau\nabla f(x^k) xk+1=xkτf(xk)

我们也可以写成下降方向+步长的形式:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值