参考资料
Oliver Woodford:Notes on Contrastive Divergence
CD(Contrastive Divergence)算法由Geoffrey Hinton提出,用于求ML(Maximum-Likelihood)问题的近似解。
问题描述
假设模型为,
为模型参数,则
的概率可以表示为
假设训练集是
ML问题求解
- 假如模型为单高斯分布,即
Oliver Woodford:Notes on Contrastive Divergence
CD(Contrastive Divergence)算法由Geoffrey Hinton提出,用于求ML(Maximum-Likelihood)问题的近似解。
假设模型为,
为模型参数,则
的概率可以表示为