TF_IDF

TF指词项频率,IDF指逆文档频率,假定文档集中有N篇文档, 为词项i在文档j中出现的频率(即次数)

image

归一化通过 除以同一文档中出现最多的词项(可能不考虑停用词的频率)来计算。

假定词项i在文档集的 篇文档中出现,那么词项i的IDF定义为:

image

词项i在文档j中的得分就被定义为 ,具有最高得分的那些词项通常是刻画文档主题的最佳词项。

注:TF-iDF公式不唯一,可自由选择进行归一化,如TF公式的分母,可为同一文档中出现的总词频(去除停用词);如IDF公式的对数公式的底数。

From Minging of Massive Datasets

<script type=text/javascript charset=utf-8 src="http://static.bshare.cn/b/buttonLite.js#style=-1&uuid=&pophcol=3&lang=zh"></script> <script type=text/javascript charset=utf-8 src="http://static.bshare.cn/b/bshareC0.js"></script>
阅读(40) | 评论(0) | 转发(0) |
0

上一篇:bufferedWriter

下一篇:将博客搬至CSDN

给主人留下些什么吧!~~
评论热议
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值