共轭函数的定义:
设函数
f
:
R
n
→
R
f: \R^n \rightarrow \R
f:Rn→R,定义函数
f
∗
:
R
n
→
R
f^*: \R^n \rightarrow \R
f∗:Rn→R 为
f
∗
(
y
)
=
sup
x
∈
d
o
m
f
(
y
T
x
−
f
(
x
)
)
,
f^*(y) = \sup_{x \in dom f} (y^Tx - f(x)),
f∗(y)=x∈domfsup(yTx−f(x)), 称
f
∗
f^*
f∗ 为
f
f
f 的共轭函数。其定义域为
{
y
∣
f
∗
(
y
)
<
∞
}
\{y | f^*(y) < \infty \}
{y∣f∗(y)<∞}显然,无论
f
f
f 是否为 凸函数, 其共轭函数永远是 凸函数,因为它是一系列凸函数的逐点上确界。
结论:
范数的共轭函数是其对偶范数单位球的示性函数。
具体描述:
若
∣
∣
⋅
∣
∣
|| · ||
∣∣⋅∣∣ 表示
R
n
\R^n
Rn 上的范数,其对偶范数为
∣
∣
⋅
∣
∣
∗
||· ||_*
∣∣⋅∣∣∗。则
f
(
x
)
=
∣
∣
x
∣
∣
f(x) = ||x||
f(x)=∣∣x∣∣ 的共轭函数为
f
∗
(
y
)
=
{
0
,
∣
∣
y
∣
∣
∗
≤
1
∞
,
o
t
h
e
r
w
i
s
e
f^*(y)=\left\{ \begin{array}{lr} 0, \;\;\;\; ||y||_* \leq 1& \\ \infty, \;\;otherwise& \end{array} \right.
f∗(y)={0,∣∣y∣∣∗≤1∞,otherwise
证明:
若 ∣ ∣ y ∣ ∣ ∗ > 1 ||y||_* > 1 ∣∣y∣∣∗>1, 根据对偶范数的定义,存在 z ∈ R n , ∣ ∣ z ∣ ∣ < 1 z \in \R^n, ||z|| < 1 z∈Rn,∣∣z∣∣<1 使得 y T z > 1 y^Tz > 1 yTz>1。 取 x = t z x = tz x=tz,令 t → ∞ t \rightarrow \infty t→∞ 可得 y T x − ∣ ∣ x ∣ ∣ = t ( y T z − ∣ ∣ z ∣ ∣ ) → ∞ y^Tx -||x|| = t(y^Tz - ||z||) \rightarrow \infty yTx−∣∣x∣∣=t(yTz−∣∣z∣∣)→∞即 f ∗ ( y ) = ∞ f^*(y) = \infty f∗(y)=∞,没有上界。反之,若 ∣ ∣ y ∣ ∣ ∗ < 1 ||y||_* < 1 ∣∣y∣∣∗<1,对任意 x x x,有 y T x ≤ ∣ ∣ y ∣ ∣ ∗ ∣ ∣ x ∣ ∣ ≤ ∣ ∣ x ∣ ∣ y^Tx \leq ||y||_*||x|| \leq ||x|| yTx≤∣∣y∣∣∗∣∣x∣∣≤∣∣x∣∣,即 y T x − ∣ ∣ x ∣ ∣ ≤ 0 y^Tx -||x|| \leq 0 yTx−∣∣x∣∣≤0当 x = 0 x=0 x=0 时取等号,故 f ∗ ( y ) = 0 f^*(y) = 0 f∗(y)=0。