5. SinaSpider – 新浪微博爬虫
主要爬取新浪微博用户的个人信息、微博信息、粉丝和关注。代码获取新浪微博Cookie进行登录,可通过多账号登录来防止新浪的反扒。主要使用 scrapy 爬虫框架。
github地址:
https://github.com/LiuXingMing/SinaSpider
6. distribute_crawler – 小说下载分布式爬虫
使用scrapy,Redis, MongoDB,graphite实现的一个分布式网络爬虫,底层存储MongoDB集群,分布式使用Redis实现,爬虫状态显示使用graphite实现,主要针对一个小说站点。
github地址:
https://github.com/gnemoug/distribute_crawler
7. CnkiSpider – 中国知网爬虫。
设置检索条件后,执行src/CnkiSpider.py抓取数据,抓取数据存储在/data目录下,每个数据文件的第一行为字段名称。
github地址:
https://github.com/yanzhou/CnkiSpider
8. LianJiaSpider – 链家网爬虫。
爬取北京地区链家历年二手房成交记录。涵盖链家爬虫一文的全部代码,包括链家模拟登录代码。
github地址:
https://github.com/lanbing510/LianJiaSpider
9. scrapy_jingdong – 京东爬虫。
基于scrapy的京东网站爬虫,保存格式为csv。
github地址:
https://github.com/taizilongxu/scrapy_jingdong
10. QQ-Groups-Spider – QQ 群爬虫。