python文本数据分成六部分,分词,每部分重新连接成新的数据

**笑傲江湖文本数据分成六部分,分词,每部分重新连接成新的数据**
import pandas as pd
data=pd.read_table('D:/Rpython/file/笑傲江湖.txt',engine='python',encoding='utf-8')
group_name=[1,2,3,4,5,6]
labels=pd.cut(data.index,6,labels=group_name)                       #数据离散化
import jieba
tem=pd.DataFrame()
for i in range(1,7):
    data1=data.loc[labels==i,:]                           #离散化
    data1=data1.iloc[:,0].apply(lambda x:jieba.lcut(x))   #分词
    data1=data1.apply(lambda x:' '.join(x))               #用空格连接
    tem.loc[i,0]=' '.join(data1)   #join() 方法用于将序列中的元素以指定的字符连接生成一个新的字符串。
**每个词在句子中出现的次数**
from sklearn.feature_extraction.text import CountVectorizer,TfidfTransformer
km=CountVectorizer().fit(tem.iloc[:,0])
bf=km.transform(tem.iloc[:,0]).toarray()
temp=pd.DataFrame(bf,columns=km.get_feature_names())
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值