概率检索模型之BIM和BM25F模型与TF-IDF模型

1. 概率排序原理

以往的向量空间模型是将query和文档使用向量表示然后计算其内容相似性来进行相关性估计的,而概率检索模型是一种直接对用户需求进行相关性的建模方法,一个query进来,将所有的文档分为两类 – 相关文档不相关文档,这样就转为了一个相关性的分类问题。

对某个文档 D D 来说,P(R|D)表示该文档属于相关文档的概率, 则 P(NR|D)>(NR|D) P ( N R | D ) > ( N R | D ) ,则认为这个文档是与用户查询相关的。

现在使用贝叶斯公式将其转一下:

P(R|D)>P(NR|D)<=>P(D|R)P(R)P(D)>P(D|NR)P(NR)P(D)<=>P(D|R)P(D|NR)>P(NR)P(R) P ( R | D ) > P ( N R | D ) <=> P ( D | R ) P ( R ) P ( D ) > P ( D | N R ) P ( N R ) P ( D ) <=> P ( D | R ) P ( D | N R ) > P ( N R ) P ( R )

在搜索过程中不需要真正的分类,只需要保证相关性由高到低排序即可,所以只需要 P(D|R)P(D|NR) P ( D | R ) P ( D | N R ) 降序即可。
这样就最终转换为计算 P(D|R) P ( D | R ) P(D|NR) P ( D | N R ) 的值即可。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值