[Spider] ‘gbk‘ codec can‘t decode byte 0xaa in position 29123: illegal multibyte sequence

写爬虫时需要事先知道要爬网页的编码,通过document.charset命令可以查询页面编码。
在这里插入图片描述
这里遇到一个问题,虽然查询的结果是GBK,但使用GBK解码时却报了如题所示的错误。从报错的内容可以看出是页面中部分字符无法识别导致的,解决方法有两个:

  1. GBK改为gb18030gb18030编码包含更多的字符, 所以可以处理部分GBK无法处理的字符
requests.get(url).content.decode('gb18030')
  1. 在解码时加入errors='ignore',跳过出现错误的字符,也就是写成下面的形式
requests.get(url).content.decode('gbk',errors='ignore')
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值