py检查txt文本里面单词重复数量并生成统计列表-week2

脚本是书上写的,我改动了一些,因为用来筛选统计的文本换了一个,所以意外的产生了一些其他报错研究了好一会才找出来原因,看书自学的痛苦。

第一步编写函数文本预处理
第二步编写函数统计单词 topn标识取频率最高的单词个数

注意点
1.被统计本文我命名为ne.txt你们自行改;

2.路径我是用的C:\Users\Dieter.DING\Desktop\新建文件夹\ne.txt你们自行改;

3.统计后生成文档,我命名为wordcounts.txt你们自行改;

4.encoding='utf-8'这个很重要哦 ,前面一个py运行了如果是cp936,现在不统一就会出现报错:

‘gbk‘ codec can‘t decode byte 0x8c in position 16

5.文本里面有什么不想要统计的单词,比如这些就拿出来剃掉,因为如果你的文件里面没有以上单词,也同样会报错

excludes = {'the','and','to','of','be','a','it','is','not','but'}你们自行改;

def getText(text):
    text = text.lower()
    for ch in ",.;?-\'":
        text = text.replace(ch,"")
    return text

def wordFreg(text,topn):
    words = text.split()
    counts ={}
    for word in words:
        counts[word] = counts.get(word,0) + 1
    excludes = {'the','and','to','of','be','a','it','is','not','but'}
    for word in excludes:
        del(counts[word])
    items = list(counts.items())
    return items[:topn]
#编写主程序, 调用函数
try:
    with open(r"C:\Users\Dieter.DING\Desktop\新建文件夹\ne.txt",'r',encoding='utf-8-sig') as f:
        text = f.read()
        text = getText(text)
        freqs = wordFreg(text, 10)
except IOError:
    print("文本不存在,请先创建!\n")
else:
    try:
        with open(r"wordcounts.txt", 'w',encoding='utf-8') as fileFreq:
            items = [word + '\t' + str(freq) + '\n' for word,freq in freqs]
            fileFreq.writelines(items)
    except IOError:
        print("写入文件错误")
        for word,freq in freqs:
            print("{:<10}{:>}".format(word,freq))

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

dieter.ding

祝老板码来财

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值