文本挖掘与分析课程笔记_Week3

这是一篇关于Coursera课程第三周的笔记,主要探讨概率主题模型,包括混合一元语言模型、最大期望算法(EM)、概率隐语义分析(PLSA)和潜在利克雷分布(LDA)。EM算法用于求解模型参数,LDA解决了PLSA的某些缺点,提供了一种生成模型。
摘要由CSDN通过智能技术生成

第三周笔记


概率主题模型:混合一元语言模型

  • 用两个词分布来表示,以此去除背景词(常见但意义不大的词)
  • θd表示主题词分布
  • θB表示背景词分布

这里写图片描述

  • 文本中某个词的概率计算

这里写图片描述

混合两个一元语言模型(解析)

  • 利用最大似然求解混合两个一元语言模型时,θd和θB会出现“合作”和“竞争”
  • 在θB(背景词)分布中,概率大的词,相对地在θd(主题词)中概率会变小
  • 某个词出现的次数越多,那么它在θd中的概率越高

这里写图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值