plsa的代码实现,plsa的原理可参考这个:http://luxinxin.is-programmer.com/user_files/luxinxin/File/plsanote.pdf
plsa这里使用em算法来估计其中的参数,已知变量是:文档、单词,未知变量时:主题,假设是:p(w|z),p(z|d)。
用EM算法来估计参数主要有两步,在plsa中,E部是根据假设求后验概率P(z|w,d),M部是通过最大化似然函数来求p(w|z),p(z|d),重新估计假设,然后在用假设求后验概率......以此循环。具体的公式可参考上面的文档。
具体的代码为:
import java.io.File;
import java.util.ArrayList;
import java.util.Collections;
import java.util.Comparator;
import java.util.HashMap;
import java.util.HashSet;
import java.util.List;
import java.util.Map;
import java.util.Set;
import com.bj58.data.dataming.machinelearning.util.FileUtil;
import com.bj58.data.dataming.machinelearning.util.IKParticiple;
import com.bj58.data.dataming.machinelearning.util.Participle;
import com.bj58.data.dataming.machinelearning.util.Probability;
public class Plsa2 {
private static Participle participle = new IKParticiple();
private static Set<String> wordSet = new HashSet<String>();
private static List<String> topicList = new ArrayList<String>();
private static List<String> docList = new ArrayList<String>();
private static Map<String,Double> dtmap = new HashMap<String,Double>();
private static Map<String,Double> twmap = new HashMap<String,Double>();
private static Map<String,Set<String>> dwSetMap = new HashMap<String,Set<String>&g