python爬虫,在response乱码时进行转码的通用格式

如果print(response.text)出现非utf-8格式时,通过以下方式进行统一的格式转换。

def get_html(url):

    response = requests.get(url)
    return response.text.encode(response.encoding).decode('utf-8') #response.encoding为原来的编码格式,encode后编码为原来的格式,decode后解码为‘utf-8’

假如上面方法不生效,可以用下面这方法:

import requests
res = requests.get("https://www.baidu.com/")
res.encoding = res.apparent_encoding
print(res.text)

其他方法:

当去掉 accept-encoding: gzip, deflate, br 这个行信息后,响应的内容就可以正常读取文本内容

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值