随机分布生成

用C在WINDOWS下编程有一点很不好，就是随机样本的生成很不方便。前一段时间实现HDP时，因为用系统的随机生成的随机数，初始化模型时，效果很不好。因为初始的模型随机性太差，最后用了LDA的经典程序中生成随机数的哪部分程序生成的随机数来初始化模型，效果很不错。

但是，像均匀分布、gamma分布，等这样的分布，就很难生成。

Y.W.T中的HDP中，gamma分布来生成hyperparameters。这样以来，必须生成gamma分布的随机样本。在YWT中，使用了L. Devroye的书Non-Uniform Random Variate Generation中的方法，同时利用了gamma分布的一个性质。如果x是服从gamma(a,b)，那么cx服从gamma(a,cb)分布。因此，这样以来，我们可以将gamma分布都化成gamma(a,1)即gamma(a)的分布来生成。如果想生成y服从gamma(a,b)的样本，那么只需要生成gamma(a)的样本yy,而后，y=yy*b即是要求的了。因此，在生成gamma分布时，只需要考虑gamma(a)就可以了。即只需要考虑shape parameter，不需要考虑scale parameter.这就是YWT程序中，产生gamma分布随机样本的原理。

怎么说呢，这些人写的程序真是牛人，把数学和程序还有算法优化到了完美的地步。真是越看他们的程序，越觉得漂亮。