(1)
G
G
G-Lipschitz函数
(2)
β
\beta
β-光滑函数
(3)
λ
\lambda
λ-强凸函数
(4)Bregman散度
注意:
(i)
D
r
(
x
,
y
)
D_{r}(x,y)
Dr(x,y)关于x是凸函数
(ii)
D
r
(
x
,
y
)
=
D
r
∗
(
∇
r
(
x
)
,
∇
r
(
y
)
)
D_{r}(x,y)=D_{r^{*}}(\nabla r(x),\nabla r(y))
Dr(x,y)=Dr∗(∇r(x),∇r(y))
(iii)
∇
r
(
∇
r
∗
(
x
)
)
=
x
\nabla r(\nabla r^{*}(x))=x
∇r(∇r∗(x))=x
一般把
∇
r
(
x
)
\nabla r(x)
∇r(x)称为x的镜像。
优化中的各种函数
文章探讨了优化领域的几个关键概念,包括G-Lipschitz函数的连续性,β-光滑函数的导数特性,以及λ-强凸函数在优化中的作用。重点介绍了Bregman散度,特别是其关于x的凸性质(i),散度的对偶形式(ii),以及镜像映射的性质(iii),即梯度的逆映射等于原点。
摘要由CSDN通过智能技术生成