python中的编码
字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。
decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode(‘gb2312’),表示将gb2312编码的字符串str1转换成unicode编码,encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode(‘gb2312’),表示将unicode编码的字符串str2转换成gb2312编码。
因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码。
requests中的编码
先上结论:之所以request的响应内容乱码,是因为模块中并没有正确识别出encoding的编码,而s.txt的结果是依靠encoding的编码“ISO-8859-1”解码出的结果,所以导致乱码。
所以正确的逻辑应该这样:
s = requests.get('http://www.vuln.cn')
一般可以先判断出编码,比如编码为gb2312,
str = s.content
可以直接用正确的编码来解码。
str.decode('gb2312')
那么知道这个逻辑,接下来就是需要正确判断网页编码就行了,获取响应html中的charset参数:
<meta http-equiv="Content-Type" content="text/html; charset=UTF-8">
但实际上我们可以直接执行encoding为正确编码,让response.text正确解码即可:
response=requests.get('www.test.com')
response.encoding = response.apparent_encoding