词频统计

博客介绍了如何使用Python进行单词频次统计,注意到标点符号、大小写对统计的影响,并提出了解决方案。通过预处理,如移除标点、统一单词大小写,创建单词频率字典,实现有效统计。
摘要由CSDN通过智能技术生成

统计重复出现的单词

文本来源:https://pan.baidu.com/s/1o75GKZ4

path = r'C:\Users\Administrator\PycharmProjects\untitled1\Walden.txt'
with open(path,'r',encoding='utf8 ') as text:
    words = text.read().split()
    print(words)
    for word in words:
        print('{}-{} times'.format(word,words.count(word)))

结论:

  1. 有一些带标点符号的单词被单独统计了次数;
  2. 有些单词不止一次地展示了出现的次数;
  3. 由于Python对大小写敏感,开头大写的单词被单独统计了。

现在我们根据这些点调整一下我们的统计方法。对单词做一些预处理:

mport string

path = r'C:\Users\Administrator\PycharmProjects\untitled1\Walden.txt'
with open(path,'r',encoding='utf8 ') as text:
    words = [raw_word.strip(string.punctuation).lower() for raw_word in text.read().split()]
    words_index = set(words)
    counts_dict = {index:
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python词频统计是指使用Python编程语言来统计一段文本中各个单词出现的频率。通过词频统计,我们可以了解到文本中哪些单词出现的次数较多,从而对文本进行分析和处理。 在Python中,可以使用字典(dictionary)来实现词频统计。具体步骤如下: 1. 将文本读入到Python程序中,可以使用文件读取函数或者直接将文本赋值给一个字符串变量。 2. 对文本进行预处理,例如去除标点符号、转换为小写等操作,以便统计的准确性。 3. 将文本按照空格或其他分隔符进行分割,得到单词列表。 4. 遍历单词列表,使用字典记录每个单词出现的次数。如果单词已经在字典中,则将其对应的值加1;如果单词不在字典中,则将其添加到字典,并将值初始化为1。 5. 根据词频进行排序,可以使用sorted函数或者其他排序方法对字典按照值进行排序。 6. 输出排序后的结果,可以选择输出前几个高频词或者输出所有的词频统计结果。 下面是一个简单的Python代码示例: ```python text = "This is a sample text for word frequency analysis. This is just a sample." word_list = text.lower().split() word_count = {} for word in word_list: if word in word_count: word_count[word] += 1 else: word_count[word] = 1 sorted_word_count = sorted(word_count.items(), key=lambda x: x, reverse=True) for word, count in sorted_word_count: print(word, count) ``` 这段代码会输出每个单词及其出现的次数,按照词频从高到低排序。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值