python3中关于encode与decode的使用方法,且含有(.content和.text方法),解决小说爬虫的乱码问题
python3中,单独的decode不能使用,若没有同时安装Python2与python3。
本人参考了居多博主资料后,使用以下方法可解决,例如:
import requests
import urllib3
urllib3.disable_warnings() #去除警告
if __name__ == '__main__':
target = 'https://www.biqugex.com/book_1219/'
headers = {"User-Agent":
"*****************"}
req = requests.get(url=target, headers=headers, verify=False)
if isinstance(req, str):
req = req.text.encode("utf-8")
else:
req = req.content.decode('gbk')
encode:编码
decode:解码
使用requests库发送请求的时候
html = requests.get(url).content.decode(“utf-8”)
#这里的.content就是读取源文件字节流,随后将该字节流编码为Unicode编码,方便再进行更加精确的解码
html = requests.get(url).text.encode(“utf-8”)
#text直接读取源文件字节流,后方指定对该字节流的编码方案,这里有时候就会遇到问题,当我们的文件编码是GB2312时,我们encode()使用了UTF-8那就会照成对字节流的编码错误,此时可以通过某些方法查看当前文件的编码再进行指定编码;也可以使用.content将其转换为Unicode编码再对其进行解码,后者较常用。
在使用requests库的时候,需要对get()返回的Response类型进行再次操作:
使用.text是自动根据文本猜测并进行编码,得到的是字符串(对字符串进行编码使用.encode()函数)
使用.content可将Response对象转换为字节码(对字节码进行编码使用.decode()函数)
————————————————
上述spider中参考出处链接:https://blog.csdn.net/qq_42292831/article/details/88211490
使用
if isinstance(req, str):
代码则可以无论遇到什么吗情况皆可以处理编码乱码问题,本文中,遇到的小说网为GBK编码模式。