信息检索 笔记(1)

听课笔记
第一节课:
1 Similar can be measured in many ways
-String matching /comparison(字符串比较)
-Same vocabulary(词汇)used?
-Probability that documents arise from same model(目前发展到这个阶段)
-Same meaning of text

2 Bag of Words(词袋)
有效的方法
不考虑出现的顺序
在这里插入图片描述
3、
Best-match 得到一个匹配程度
在这里插入图片描述
4、 (Unranked)Boolean retrival
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
2、统计语言模型
要计算文档的长度
计算词语在文档中的分布。
在这里插入图片描述
麻烦:中文词语之间没有分割

通常查询词会代表topic
在这里插入图片描述
可以自己定义语言,语言的定义扩大。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
还可以利用之前的相关的检索结果,改进后续的检索结果。
但是不能改进原本对文档的相关性
不能对有逻辑结构的进行检索
在这里插入图片描述
利用检索的结果,来对文档的相关性进行修改。
充分利用查询历史。
得到Document-likelithood(文档似然)

对query建立语言模型

在这里插入图片描述
对于不同长度的词不能直接比较的解决方案:
在这里插入图片描述
在这里插入图片描述
那么如何处理零频问题
在这里插入图片描述
解决零频方法1:但是复杂度太高,且概率分布差太多
在这里插入图片描述
解决零频方法2,将其他的值降低。
但是还是会影响文档长度。

在这里插入图片描述
零频方法三:
在这里插入图片描述
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值