Jensen不等式(琴生不等式)

每次用的时候都得查，所以索性之际记录一下
注意凸函数的定义，上凸、下凸、凹、凸的含义是不同的

1.定义

Jensen不等式，又名琴森不等式或詹森不等式（均为音译）。它是一个在描述积分的凸函数值和凸函数的积分值间的关系的不等式。

Jensen不等式的定义公式：

若$f(x)$为区间[a, b]上的下凸函数，则对任意的$x_1,x_2,x_3,\dots ,x_n\in [a,b]$，有不等式：

$$\frac{{\sum }_{i=1}^{n}f(x_i)}{n}\ge f(\frac{{\sum }_{i=1}^n{x}_i}{n})$$

当且仅当$x_1=x_2=x_3=\cdots =x_n$时等号成立。

以下为该公式的加权形式：

1. 当且仅当$f(x)$为下凸函数时，有：
   $$f(\sum _{i=1}^n{\lambda }_i{x}_i)\le \sum _{i=1}^n{\lambda }_{i}f(x_i),\sum _{i=1}^n{\lambda }_i=1,{\lambda }_i\ge 0$$
   当且仅当$x_1=x_2=x_3=\cdots =x_n$时等号成立。
2. 当且仅当$f(x)$为上凸函数时，有：
   $$f(\sum _{i=1}^n{\lambda }_i{x}_i)\ge \sum _{i=1}^n{\lambda }_{i}f(x_i),\sum _{i=1}^n{\lambda }_i=1,{\lambda }_i\ge 0$$
   当且仅当$x_1=x_2=x_3=\cdots =x_n$时等号成立。

2.应用

1.涉及概率密度函数的形式

假设$\Omega$是实值的可测子集，$f(x)$是一个非负函数(概率密度函数)：
$${\int }_{-\infty }^{\infty }f(x)dx=1$$

如果$g$是任意实值可测函数且$\phi$在$g$范围内是凸的，那么：

$$\phi ({\int }_{-\infty }^{\infty }g(x)f(x)dx)\le {\int }_{-\infty }^{\infty }\phi [g(x)]f(x)dx$$

如果$g(x)=x$，那么这种不等式可以简化为一个非常常用的特例：

$$\phi ({\int }_{-\infty }^{\infty }xf(x)dx)\le {\int }_{-\infty }^{\infty }\phi (x)f(x)dx$$

2.信息论

暂时用不到，用到再补充