用python对字符串分词,并计算词数

# -*- coding: utf-8 -*-
"""
Created on Tue Mar 24 11:29:53 2020

@author: weisssun
"""

import jieba
import csv
import pandas as pd

jieba.load_userdict(r"D:\Python\dict\userdict.txt")
#加载用户词典
    
input_path = r'D:\Python\data\评论.xlsx'
#原始数据路径

outpath = r'D:\Python\data\评论-词数.csv'
#输出数据路径

results = []
#将结果保存在results列表中,写入csv文件

raw_data = pd.read_excel(input_path, encoding = 'utf-8')
#读取原始数据
for comment in raw_data.comment.astype(str):
    #读取原始数据中的文本列,并将其转换为字符串格式
    #否则jieba会报错
    cut_words=[]
    result = []
    #print(comment)
    seg_list = jieba.cut(comment,cut_all=False)
    #调用jieba分词
    for i in seg_list:
        cut_words.append(i)
    #将分词结果保存为列表
    #print(cut_words)
    #print(len(cut_words))
    #word_freq.append(len(cut_words))
    result.append(comment)
    result.append(cut_words)
    result.append(len(cut_words))
    #将原始评论、分词结果、词数保存在列表result中
    results.append(result)
    #将所有result保存在列表results中
#print(results)


with open(outpath, 'w', newline='',encoding='gbk') as f:
    writer = csv.writer(f)            
    for result in results:
        writer.writerow(result)
    #将结果写入csv文件,每个result是一行
  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值