python2 获取网页编码字符串的解决方案
在python2爬取网页数据是遇到中文编码的转换问题
在网上搜到的解决方案是
在爬虫抓取网页信息时常需要将类似"\u4eba\u751f\u82e6\u77ed\uff0cpy\u662f\u5cb8"转换为中文,实际上这是unicode的中文编码。可用以下方法转换:
str = ‘\u4eac\u4e1c\u653e\u517b\u7684\u722c\u866b’
方法1 使用unicode_escape 解码
print str.decode(‘unicode_escape’)
print unicode(str, ‘unicode_escape’)
方法2:若为json 格式,使用json.loads 解码
print json.loads(’"%s"’ %str)
方法3:使用eval
print eval(‘u"%s"’ % str)
方法4:使用python3
以上方案经验证可行