在我的上篇文章:python爬虫系列一:爬取糗百成人的妹子图片中,体现的主要还是代码,这一次我用了更加流行的requests 和正则来改写代码,并且简单的说说思路
爬取图片到底需要干什么
1,定义要爬取的页面。
糗百官网:http://www.qiubaichengren.com,里面是不是有很多的妹子图片,我们就是要把这些妹子图片爬取下来。接着我们点击‘下一页’按钮,发现网址变成了http://www.qiubaichengren.com/2.html,也就是要爬完所有的妹子图片,只需要找到末页标签就可以了http://www.qiubaichengren.com/850.html,
所以我们要定义一个url_list=[‘http://www.qiubaichengren.com/%s.html’ % i for i in range(1, 851)]确保访问了我们需要爬取的所有页面。
2,找到要爬出图片的url
在http://www.qiubaichengren.com页面查看源码,发现图片都包含在 <img alt="你点嘛,你点什么都很可口,我爱吃" src="http://wx2.sinaimg.cn/mw600/661eb95cly1fd3nbpczarj20jz0zk47g.jpg" style="width: 350px; height: 623px;" />
这样的标签里面,为了找到页面中所有的img标签,并提取alt 和src的内容,定义如下正则:
reg = r'<img alt="(.*