前言:
python是易语言,简单易学,今天来讲解一个爬虫小demo。主要功能包括某招聘网站的数据抓取,以及把数据存入Excel表中。注:本文仅用于学习交流。
思路:
程序是死的,数据是多样性的。要想去抓取数据某网站的数据,首先需要做的就是打开网站,按一下F12,然后分析前端页面的数据展示的规律。
一般情况,页面数据都是通过遍历集合循环出来的。
一、引用资源模块
![49dff8ef96561c43b81a89a274355ed5.png](https://img-blog.csdnimg.cn/img_convert/49dff8ef96561c43b81a89a274355ed5.png)
二、模拟一个用户,请求网站,并获取网站首页内容
![3c550a01d021650a617be74cbce3e45f.png](https://img-blog.csdnimg.cn/img_convert/3c550a01d021650a617be74cbce3e45f.png)
三、解析网站首页内容(大的分类)
解析网站首页,可以获取网站首页职业分类的集合,可以根据每一个职业分类和对应的跳转地址,跳转下一个页面。
![1bb2a8c37cd3e67ef2da9bea44da98ee.png](https://img-blog.csdnimg.cn/img_convert/1bb2a8c37cd3e67ef2da9bea44da98ee.png)
四、跳转详细职业信息的列表页面
需要有一个循环,获取列表页面每一个页面的内容。
![6115972bdb0241d3e1fcd6b1468218ad.png](https://img-blog.csdnimg.cn/img_convert/6115972bdb0241d3e1fcd6b1468218ad.png)
解析当前页面的信息,并返回下一个页面的地址。
![7b862ad6f324f6e2b3cdb49c572d0d0f.png](https://img-blog.csdnimg.cn/img_convert/7b862ad6f324f6e2b3cdb49c572d0d0f.png)
五、抓取的信息写入Excel
![8224dd32201797ad694b223c85a02fe9.png](https://img-blog.csdnimg.cn/img_convert/8224dd32201797ad694b223c85a02fe9.png)
6、程序入口
![80b7e02ed96d199f9293e7375d542c9c.png](https://img-blog.csdnimg.cn/img_convert/80b7e02ed96d199f9293e7375d542c9c.png)
注意事项;现在的大型网站都是反爬虫机制,所以抓取的频率不要太高。我现在的处理是让每个页面随机停顿1-3秒。为了演示,只抓取两个职业大类的数据。代码中有个判断放开,就会抓取整个网站的数据。
需要源码的可以关注公众号领取:
![30ed85e7577f900b34da9ac3b600751d.png](https://img-blog.csdnimg.cn/img_convert/30ed85e7577f900b34da9ac3b600751d.png)