共轭函数
这个
x
∈
d
o
m
(
f
)
x\in dom(f)
x∈dom(f)是指x在f的定义域上取值
f
∗
(
t
)
=
max
x
∈
d
o
m
(
f
)
{
x
t
−
f
(
t
)
}
f^*(t)= \max_{x \in dom(f)} \{xt-f(t)\}
f∗(t)=x∈dom(f)max{xt−f(t)}
legendre
谈共轭函数之前，必须先谈legendre变换：
f
(
x
,
y
)
—
—
—
—
l
e
g
e
n
d
r
e
—
—
—
>
G
(
u
,
y
)
f
(
x
,
y
)
=
f
(
x
1
.
.
.
.
.
x
n
,
y
1
.
.
.
.
.
y
n
)
d
f
=
∂
f
∂
x
1
d
x
1
+
.
.
.
.
+
∂
f
∂
x
n
d
x
n
+
∂
f
∂
y
1
d
y
1
+
.
.
.
.
.
.
+
∂
f
∂
y
n
d
y
n
=
∑
∂
f
∂
x
i
d
x
i
+
∑
∂
f
∂
y
i
d
y
i
f(x,y)————legendre———>G(u,y)\\ f(x,y)=f(x_1.....x_n,y_1.....y_n)\\ df=\frac{\partial f}{\partial x_1}dx_1 +....+ \frac{\partial f}{\partial x_n}dx_n + \frac{\partial f}{\partial y_1}dy_1 +......+ \frac{\partial f}{\partial y_n}dy_n\\ =\sum \frac{\partial f}{\partial x_i}dx_i +\sum \frac{\partial f}{\partial y_i}dy_i
f(x,y)————legendre———>G(u,y)f(x,y)=f(x1.....xn,y1.....yn)df=∂x1∂fdx1+....+∂xn∂fdxn+∂y1∂fdy1+......+∂yn∂fdyn=∑∂xi∂fdxi+∑∂yi∂fdyi
然后在假设
∑
∂
f
∂
x
i
=
u
i
\sum \frac{\partial f}{\partial x_i}=u_i
∑∂xi∂f=ui就成了这个：
d
f
=
∑
u
i
d
x
i
+
∑
∂
f
∂
y
i
d
y
i
∑
x
i
d
u
i
−
∑
∂
f
∂
y
i
d
y
i
=
d
(
∑
u
i
x
i
−
f
)
df=\sum u_idx_i+\sum \frac{\partial f}{\partial y_i}dy_i\\ \sum x_idu_i-\sum \frac{\partial f}{\partial y_i}dy_i = d(\sum u_ix_i -f)
df=∑uidxi+∑∂yi∂fdyi∑xidui−∑∂yi∂fdyi=d(∑uixi−f)
所以
G
(
u
,
y
)
=
∑
u
i
x
i
−
f
(
x
,
y
)
=
u
t
x
−
f
(
x
,
y
)
G
(
u
)
=
u
t
x
−
f
(
x
)
G(u,y)=\sum u_ix_i - f(x,y) \\=u^tx-f(x,y)\\ G(u)=u^tx - f(x)
G(u,y)=∑uixi−f(x,y)=utx−f(x,y)G(u)=utx−f(x)
legendre变换：函数与切线联系在一起
G（u）——>u这个变量是f(x)每个点的导数！！
G（u）=ux-f(x) （因为是二维，所以不是ut），u为(x,f(x))点的切线斜率。
例子：
f
(
x
)
=
x
2
2
—
—
—
—
l
e
g
e
n
d
r
e
—
—
—
—
>
g
(
u
)
=
u
t
x
−
f
(
x
)
=
x
2
−
x
2
2
=
1
2
x
2
—
—
>
u
2
2
f(x)=\frac{x^2}{2}————legendre————> g(u)=u^tx-f(x)=x^2-\frac{x^2}{2}=\frac{1}{2}x^2——>\frac{u^2}{2}
f(x)=2x2————legendre————>g(u)=utx−f(x)=x2−2x2=21x2——>2u2
但是legendre变换对于不可导问题和非凸函数不行！
Fenchel：可以解决上述情况
Fenchel———>共轭函数
Fenchel：
f ∗ ( k ) = s u p { k x − f ( x ) } x ∈ d o m ( f ) f^*(k)=sup\{kx-f(x)\}\\x \in dom(f) f∗(k)=sup{kx−f(x)}x∈dom(f)
f*(k)的k变量是每一个点切线的斜率
其中有三个性质：
- Fenchel不等式： f ∗ ( k ) > = k T x − f ( x ) f^*(k)>= k^Tx-f(x) f∗(k)>=kTx−f(x)
- 如果 f是凸函数，可微，则共轭函数等于legendre
- 如果f是凸函数，f是闭集，则共轭的共轭等于其本身
754
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
