这是LDA的入门学习,由五个句子组成,训练的过程也较为简单。
代码的网页来源https://aiteam.blog.csdn.net/article/details/88392606
另外,在b站上找到一个视频教程,讲的很清楚,建议先看视频。网页来源https://www.bilibili.com/video/BV1rJ411g7Mz?p=171
LDA建模的步骤
1.预处理,将文档转为list to list形式,形成dictionary字典。即[[1word1,1word2,1word3],[2word1,2word2,2word3],[3word1,3word2,3word3]]的列表中有列表的格式。其中,大列表下每个小列表代表一个文档,每个文档又包含词。所以,要先进行去停用词、去标点符号、标准化、词干化等步骤。
2.形成词-文档矩阵DT/语料库,里面包含的是词和词频。也就是dictionary.doc2bow
3.使用gensim来LDA建模,需要dictionary、corpus语料库和topic数量k。
代码是自己修改过运行的,原代码没什么问题,只是在安装包时以及stopwords那里每个人的情况不同,我这里报错了,具体解决也都是百度来的。
#从nltk中import停用词
import nltk
#nltk.download()
from nltk.corpus import stopw