提取文件关键词和次数(二十大报告)

Python 第三方库 jieba 是一个开源的,用于中文分词以及简单文本处理的工具包,不仅提供了基础的分词功能,还附带词性标注、实体识别以及关键词提取功能。基本的分词功能以及优化分词的方法,已经在上文链接指向的文章中详细说明过,本文则主要介绍如何使用 jieba 库进行关键词提取。jieba 库内置了两种关键词提取算法,正是 TF-IDF 和 TextRank 算法,它们都是最为经典和常用的关键词提取算法。

我们所使用的文本数据为《二十大报告.txt》,从网上搜索二十大的文章名修改好文件名字,粘贴至与代码相同目录的地方视作参考文件.

运行代码如下:

import jieba
txt = open("二十大报告.txt","r",encoding='utf-8').read()
words = jieba.lcut(txt)
counts = {}
for word in words:
    if len(word) == 1:
        continue
    else:
        counts[word] = counts.get(word,0)+1
items = list(counts.items())
items.sort(key=lambda x:x[1],reverse=True)
for i in range(15):
        word,count = items[i]
        print("{0:<10}{1:>5}".format(word,count))

  • 9
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我可以为您提供以下的Python代码来实现这个功能: ```python import os import re from collections import Counter import jieba.analyse # 读取文本文件提取关键词并统计词频 def extract_keywords(filepath, topk=10): with open(filepath, 'r', encoding='utf-8') as f: content = f.read() # 使用jieba分词提取关键词 keywords = jieba.analyse.extract_tags(content, topK=topk) # 统计关键词出现次数 counter = Counter(keywords) return dict(counter) # 遍历指定目录下的所有txt文件提取关键词并输出文档 def extract_keywords_from_dir(dirpath, topk=10): # 遍历目录下的所有txt文件 for filename in os.listdir(dirpath): if filename.endswith('.txt'): # 构造文件的绝对路径 filepath = os.path.join(dirpath, filename) # 提取关键词并统计词频 keywords = extract_keywords(filepath, topk) # 将关键词和词频输出到文档中 with open('output.txt', 'a', encoding='utf-8') as f: f.write(f'{filename}:\n') for keyword, count in keywords.items(): f.write(f'\t{keyword}: {count}\n') f.write('\n') # 测试代码 if __name__ == '__main__': # 指定目录路径和输出的关键词数量 dirpath = 'txt_files' topk = 10 # 清空输出文档 with open('output.txt', 'w', encoding='utf-8') as f: f.write('') # 提取关键词并输出文档 extract_keywords_from_dir(dirpath, topk) print('提取完成,结果保存在output.txt中') ``` 这段代码会遍历指定目录下的所有txt文件提取关键词并统计词频,最后将关键词和词频输出到output.txt文件中。您可以根据需要修改目录路径和输出的关键词数量。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值