最大熵 IIS算法中的一个证明和图

参考《The Improved Iterative Scaling Algorithm：A Gentle Introduction》

其中一个公式：

当 x>0时， -log(x) >= 1-x 成立。

证明：x-log(x)-1>=0

令x=1+z，z>-1;

得到:1-x=z

由于：ln(1+z)=z-z^2/2+z^3/3-z^4/4..... 

因此： -log(x)-1+x=-z+z^2/2-z^3/3 + ...+(-z) = z^2/2-z^3/3 >=0

因此证明

R语言画图如下：

x=seq(0.1,10,by=0.1)
plot(x,-log(x),type="l")

lines(x,1-x)