scrapy爬取图片报错:
[scrapy.pipelines.files] WARNING: File (code: 302): Error downloading file from <GET https://profile.csdnimg.cn/2/4/1/3_liulanba> referred in
先看一下http状态码:
状态码 | 描述 |
---|---|
301 | 永久移动。请求的资源已被永久的移动到新URI,返回信息会包括新的URI,浏览器会自动定向到新URI。今后任何新的请求都应使用新的URI代替 |
302 | 临时移动。与301类似。但资源只是临时被移动。客户端应继续使用原有URI |
这其实是网站的一种反爬机制,我们要获取的资源被重定向到新的url
在settings.py中加上下面这句话即可:
MEDIA_ALLOW_REDIRECTS =True