python中的encode和decode研究心得

最近在做NLP相关东西,需要从数据库和文本等多个源读取文本数据(中文),这就涉及到了文本编码的转换,小菜初次碰到这个问题,所以研究了一下,记录下来。

  • 关于encode和decode

decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。 

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。

  • 工作中碰到的case:
    1. 从停用词文件中读中文词,并且跟jieba分词list做比较,需要对单词decode('utf-8')
    2. 从数据库中读中文并且跟中文比较需要对中文encode('utf-8')

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值