16套爬虫实战源码

github地址:https://github.com/Jack-Cherish/python-spider#%E5%85%B6%E5%AE%83

因为一些众所周知的原因,github的下载速度慢的让人抓狂(几k/s的速度还能下载失败,,,),所以我为了方便大家已经下载打包整理好了,有需要的同学欢迎评论区留言。

笔趣看小说下载

biqukan.py:《笔趣看》盗版小说网站,爬取小说工具

百度文库免费文章下载助手_rev1

baiduwenku.py: 百度文库word文章爬取

百度文库免费文章下载助手_rev2

baiduwenku.py: 百度文库word文章爬取

《帅啊》网帅哥图片下载

shuaia.py: 爬取《帅啊》网,帅哥图片

构建代理IP池

daili.py: 构建代理IP池

《火影忍者》漫画下载

carton: 使用Scrapy爬取《火影忍者》漫画
代码可以爬取整个《火影忍者》漫画所有章节的内容,保存到本地。更改地址,可以爬取其他漫画。保存地址可以在settings.py中修改。

财务报表下载小助手

financical.py: 财务报表下载小助手
爬取的数据存入数据库会吗?《跟股神巴菲特学习炒股之财务报表入库(MySQL)》也许能给你一些思路。

一小时入门网络爬虫

one_hour_spider:一小时入门Python3网络爬虫。
本次实战内容有:
网络小说下载(静态网站)-biqukan,优美壁纸下载(动态网站)-unsplash,视频下载

抖音App视频下载

douyin.py:抖音App视频下载
抖音App的视频下载,就是普通的App爬取。
douyin_pro:抖音App视频下载(升级版)
抖音App的视频下载,添加视频解析网站,支持无水印视频下载,使用第三方平台解析。
douyin:抖音App视频下载(升级版2)
抖音App的视频下载,添加视频解析网站,支持无水印视频下载,通过url解析,无需第三方平台。

GEETEST验证码识别

geetest.py:GEETEST验证码识别

12306抢票小助手

12306.py:用Python抢火车票简单代码

可以自己慢慢丰富,蛮简单,有爬虫基础很好操作,没有原理说明。

百万英雄答题辅助系统

baiwan:百万英雄辅助答题
功能介绍:

服务器端,使用Python(baiwan.py)通过抓包获得的接口获取答题数据,解析之后通过百度知道搜索接口匹配答案,将最终匹配的结果写入文件(file.txt)。

手机抓包不会的朋友,可以看下我的早期手机APP抓包教程。

Node.js(app.js)每隔1s读取一次file.txt文件,并将读取结果通过socket.io推送给客户端(index.html)。

亲测答题延时在3s左右。

声明:没做过后端和前端,花了一天时间,现学现卖弄好的,javascript也是现看现用,百度的程序,调试调试而已。可能有很多用法比较low的地方,用法不对,请勿见怪,有大牛感兴趣,可以自行完善。

网易云音乐免费音乐批量下载

根据music_list.txt文件里的歌单的信息下载网易云音乐,将自己喜欢的音乐进行批量下载。

B站免费视频和弹幕批量下载

bilibili:B站视频和弹幕批量下载

京东商品晒单图下载

jingdong:京东商品晒单图下载

正方教务管理系统个人信息查询

zhengfang_system_spider:对正方教务管理系统个人课表,个人学生成绩,绩点等简单爬取

发布了251 篇原创文章 · 获赞 426 · 访问量 41万+
展开阅读全文

没有更多推荐了,返回首页

©️2019 CSDN 皮肤主题: 技术黑板 设计师: CSDN官方博客

分享到微信朋友圈

×

扫一扫,手机浏览