python3中关于encode与decode的使用方法,且含有(.content和.text方法),解决小说爬虫的中文乱码问题

python3中关于encode与decode的使用方法,且含有(.content和.text方法),解决小说爬虫的乱码问题

python3中,单独的decode不能使用,若没有同时安装Python2与python3。
本人参考了居多博主资料后,使用以下方法可解决,例如:

import requests
import urllib3


urllib3.disable_warnings() #去除警告
if __name__ == '__main__':
    target = 'https://www.biqugex.com/book_1219/'
    headers = {"User-Agent":
                   "*****************"}
    req = requests.get(url=target, headers=headers, verify=False)
    if isinstance(req, str):
        req = req.text.encode("utf-8")
    else:
        req = req.content.decode('gbk')

encode:编码
decode:解码

使用requests库发送请求的时候
html = requests.get(url).content.decode(“utf-8”)

#这里的.content就是读取源文件字节流,随后将该字节流编码为Unicode编码,方便再进行更加精确的解码

html = requests.get(url).text.encode(“utf-8”)

#text直接读取源文件字节流,后方指定对该字节流的编码方案,这里有时候就会遇到问题,当我们的文件编码是GB2312时,我们encode()使用了UTF-8那就会照成对字节流的编码错误,此时可以通过某些方法查看当前文件的编码再进行指定编码;也可以使用.content将其转换为Unicode编码再对其进行解码,后者较常用。

在使用requests库的时候,需要对get()返回的Response类型进行再次操作:

使用.text是自动根据文本猜测并进行编码,得到的是字符串(对字符串进行编码使用.encode()函数)

使用.content可将Response对象转换为字节码(对字节码进行编码使用.decode()函数)
————————————————
上述spider中参考出处链接:https://blog.csdn.net/qq_42292831/article/details/88211490

使用

    if isinstance(req, str):

代码则可以无论遇到什么吗情况皆可以处理编码乱码问题,本文中,遇到的小说网为GBK编码模式。

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值