霍尔德（Hölder）不等式

引理

设 $p,q>0，\frac{1}{p}+\frac{1}{q}=1.$则$$x^{\frac{1}{p}}{y}^{\frac{1}{q}}\le \frac{x}{p}+\frac{y}{q},\forall x,y\ge 0,$$等号仅当 $x=y$ 时成立。

---

证明：

考察对数函数 $log(x)$，她显然是一个凹函数：$$log(\theta x+(1-\theta )y)\ge \theta log(x)+(1-\theta )log(y)$$取 $\theta =\frac{1}{p}$，则 $1-\theta =\frac{1}{q}$，故$$log(\frac{1}{p}x+\frac{1}{q}y)\ge \frac{1}{p}log(x)+\frac{1}{q}log(y)$$两边同时去指数，得$$\frac{x}{p}+\frac{y}{q}\ge x^{\frac{1}{p}}{y}^{\frac{1}{q}}$$

---

Hölder 不等式

对引理中的不等式，做如下替换$$x_i=\frac{a_i^p}{{\sum }_{j=1}^n{a}_j^p},y_i=\frac{b_i^q}{{\sum }_{j=1}^n{b}_j^q}$$得到 n 个不等式：$$\frac{a_i{b}_i}{({\sum }_{j=1}^n{a}_j^p{)}^{\frac{1}{p}}({\sum }_{j=1}^n{b}_j^q{)}^{\frac{1}{q}}}\le \frac{1}{p}\frac{a_i^p}{{\sum }_{j=1}^n{a}_j^p}+\frac{1}{q}\frac{b_i^q}{{\sum }_{j=1}^n{b}_j^q}$$将上式两边对 $i=1,2,\cdot \cdot \cdot ,n$ 求和，就得到$$\frac{{\sum }_{i=1}^n{a}_i{b}_i}{({\sum }_{j=1}^n{a}_j^p{)}^{\frac{1}{p}}({\sum }_{j=1}^n{b}_j^q{)}^{\frac{1}{q}}}\le \frac{1}{p}+\frac{1}{q}=1,$$$$\Rightarrow \sum _{i=1}^n{a}_i{b}_i\le (\sum _{j=1}^n{a}_j^p{)}^{\frac{1}{p}}(\sum _{j=1}^n{b}_j^q{)}^{\frac{1}{q}}$$
上式要求 $a_i,b_i\ge 0$。否则，需要给等式右端的 $a_i,b_i$ 加上绝对值，得到如下不等式： $$a^{T}b\le ||a|{|}_p||b|{|}_q$$事实上，$||\cdot |{|}_q$正是$||\cdot |{|}_p$的对偶范数。