response 返回图片_超简单的图片爬虫,搜集图片分分钟

先看看当当网的图片

6dd0e645b1f50b6739a25fde9b6faf25.png

查看一下页面源码找到我们要爬的图片数据格式和位置

4ded3307f8d8892c378d918cd00b0667.png

图片数据存放的很容易取,用正则表达式来匹配:

r"(.*?)

导入需要的包

import urllib.requestimport reimport osimport sysimport ssl

设置请求头

在请求网页爬取的时候,输出的text信息中会出现抱歉,无法访问等字眼,这就是禁止爬取,需要通过反爬机制去解决这个问题。

headers是解决requests请求反爬的方法之一,相当于我们进去这个网页的服务器本身,对反爬虫网页,可以设置一些headers信息,模拟成浏览器取访问网站 。

怎么查看请求头

首先在当前网页右键,查看页面源码。或者F12键「不同系统查看方式不太一样」。

然后在Network一栏找到Doc,如下对应的位置就是我们本机的请求头了。

1738955f9f2c0b633e594e95b8b997c3.png

注意:

  • headers中有很多内容,主要常用的就是user-agent 和 host,他们是以键对的形式展现出来,如果user-agent 以字典键

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值