tf-idf算法实现

TF_IDF是:,用于对文章分类,思想:某个词在一篇文章中出现的次数多,在其他文章中出现的次数少,认为这个词可以表示该文章的类别。TF表示某词在一篇文章中出现的次数,IDF:翻文档词频,表示在文章集合中包含该词的文章越少,IDF越大,该词有较好的区分能力。

TF计算公式:nij表示词ti在文章dj中出现的次数,分母表示文章dj中所有词的个数

 \mathrm{tf_{i,j}} = \frac{n_{i,j}}{\sum_k n_{k,j}}

IDF计算公式:|D|表示文档集合中所有文章的个数,分母表示包含词条ti的文章个数,有可能出现分母为0的情况,所以一般用 1 + |\{j : t_{i} \in d_{j}\}| 表示分母

 \mathrm{idf_{i}} =  \log \frac{|D|}{|\{j: t_{i} \in d_{j}\}|} 

然后  \mathrm{tf{}idf_{i,j}} = \mathrm{tf_{i,j}} \times  \mathrm{idf_{i}}


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值