python3.7对应的lxml版本_python3.7.2爬虫lxml解决GB2312乱码的问题

本文介绍了在Python3.7.2中使用lxml进行网页抓取时遇到GBK编码导致的乱码问题及解决方案。通过修改`page.text`为`page.content.decode('gbk')`,成功解决乱码,同时分享了作者的爬虫学习心得。
摘要由CSDN通过智能技术生成

看了很多文章都无法解决新版3.72爬虫使用LXML抓取中文网页乱码的问题。我结合我自己的一些粗浅的经验谈谈,以及很便捷的解决方法,亲测可用。

一、产生原因

python自带的是的编码是utf-8,而一些中文网站使用的是GBK或者GBK2312,两个编码不兼容。

二、一般的代码

以下的代码会产生乱码,原因就是网址中中文字符采用的是GBK2312的编码。

```

import requests

from lxml import html

etree=html.etree

url='https://www.51test.net/show/9218752.html' #需要爬的网址

page=requests.Session().get(url)

tree=html.fromstring(page.text)#有篇文章说,把text换成conten,确实能,但不能完全显示

result=tree.xpath('//div//p//text()') #需要获取的数据

result2=tree.xpath('//div[@class="content-txt"]//tr[last()]//a/@href')

#print(result)

with open('C:/Users/Administrator/Desktop/新建文本文档.txt','w',encoding="gbk") as f:#使用with open()新建对象f

for i in result:

print(i)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值