本文是关于LDA的学习笔记，主要探讨了参数估计的极大似然估计（MLE）和极大后验概率（MAP），以及贝叶斯推理（BI）。通过对比分析，阐述了各种方法在处理数据时的优缺点，强调了BI在建模上的优势，同时也指出复杂模型可能带来的计算挑战和过拟合风险。
这几天学习在LDA，终于把其原理搞清楚了，记录一下要点
1. 参数估计和预测
对于一个已知模型，贝叶斯推理的两个大问题，
1.参数估计，主要方法有极大似然估计（MLE,Maximum likelihood estimation）和极大后验概率（MAP,Maximum a posteriori estimation）,也可以直接求解P(/theta | X),其中X为已知数据集
2.预测方法, 即对于一个未知的特征向量x，求p(x|X)(假设样本之间满足iid条件，)
1.1极大似然估计
极大似然估计，定义了似然函数,直接对似然函数求解其最大值（求导，梯度法等）
当预测时，用估计值（单点）替代真实值（积分）
1.2 极大后验概率<
5362
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
最低0.47元/天 解锁文章
