词频统计

词频统计TF是统计一个term在文本中出现的次数,一般来说,一个term在某类文本中出现的次数越多,就越能代表一类文本。当然,如果某个term在一类文本中出现的次数越多而在其他类文本里根本不出现,就更能代表这一类文本。

直接上代码:

#!/usr/bin/env python
# -*- coding: UTF-8 -*-

for j in range(1,10):
    for i in range(10, 510):
        dic = {}  # 对于每一个文件,新建一个空的dic
        try:
            f = open('/Users/Administrator/Desktop/delstopwords3/%d/%d.txt' % (j,i), 'rb')
            print u"正在处理文本:", j,i
            for line in f:
                line = line.strip()
                if line in dic:
                    dic[line] += 1
                else:
                    dic[line] = 1

            dic = sorted(dic.items(), key=lambda d: d[1], reverse=1)
            c = open('/Users/Administrator/Desktop/wordsfrequence2/%d/%d.txt'  % (j,i), 'a')
            for a, b in dic:
                if b > 0:
                    c.write(a + '\t' + str(b) + '\n')
            c.close()

        except:
            continue

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值