scrapy接收网页json数据报 :json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)

我们在爬取json网页数据时,有时候获取json数据获取失败
无论我们换成:response.body_as_unicode()
response.body
response.text
都无法获取网页json时,证明网页有可能进进行了特殊的设置(反爬虫)
在这里插入图片描述
在这里插入图片描述

此时我们换一种json格式解析库:demjson
在这里插入图片描述
会发现解析出来的是不完整发json格式:
在这里插入图片描述
因为demjson 他可以解析不规则的json数据,此时只需要用正则表达式或替换字符转换为json格式的数据即可:
在这里插入图片描述

在这里插入图片描述
最后正常进行json调用即可!

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值