盘点一下，2021我靠Python兼职赚了多少钱

4.学习数据库知识，应对大规模数据存储与提取

爬回来的数据量小的时候，你可以用文档的形式来存储，一旦数据量大了，这就有点行不通了。所以掌握一种数据库是必须的，学习目前比较主流的MongoDB就OK。MongoDB 可以方便你去存储一些非结构化的数据，比如各种评论的文本，图片的链接等等。你也可以利用PyMongo，更方便地在Python中操作MongoDB。因为这里要用到的数据库知识其实非常简单，主要是数据如何入库、如何进行提取，在需要的时候再学习就行。

5.掌握各种技巧，应对特殊网站的反爬措施

当然，爬虫过程中也会经历一些绝望啊，比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。遇到这些反爬虫的手段，当然还需要一些高级的技巧来应对，常规的比如访问频率控制、使用代理IP池、抓包、验证码的OCR处理等等。往往网站在高效开发和反爬虫之间会偏向前者，这也为爬虫提供了空间，掌握这些应对反爬虫的技巧，绝大部分的网站已经难不到你了。

6.分布式爬虫，实现大规模并发采集，提升效率

爬取基本数据已经不是问题了，你的瓶颈会集中到爬取海量数据的效率。这个时候，相信你会很自然地接触到一个很厉害的名字：分布式爬虫。

分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理让多个爬虫同时工作，需要你掌握Scrapy+ MongoDB + Redis 这三种工具。

Scrapy 前面我们说过了，用于做基本的页面爬取，

MongoDB 用于存储爬取的数据，

Redis 则用来存储要爬取的网页队列，也就是任务队列。

所以有些东西看起来很吓人，但其实分解开来，也不过如此。当你能够写分布式的爬虫的时候，那么你可以去尝试打造一些基本的爬虫架构了，实现一些更加自动化的数据获取。

Python学习福利

学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

基础阶段视频

对于从来没有接触过Python的同学，帮你们准备了入门级的视频教程。这些都是比较基础的知识点，大家先跟着学习。如果你有需要我都可以分享给你！

不求一开始都能整明白，先做到基础知识心中有数，因为我在后面帮你们准备了进阶课程。

因篇幅有限，仅展示部分资料

趣味十足的Python进阶教程

如果学习完上面的基础视频后，你仍是一种蒙蔽的状态，没有关系，下面这套教程就帮你正式开启Python的学习之路。

在我学习python之前，一度以为这是非常枯燥的事情，但直到我遇到这个老师的课，我才知道，原来编程可以如此有趣。

每一节课以实际案例来作为课程内容，再加上老师幽默风趣的教学风格，相信你的学习过程会趣味十足。

因篇幅有限，仅展示部分资料

项目实战教学

如果上面的课程你都看完了，就来做一些项目实战锻炼一下吧。学了知识，就要用，通过实际案例，你会更深入地掌握这些知识。

因篇幅有限，仅展示部分资料

Python就业班

如果你希望将来能找到一份高薪程序员的工作，那么这部分资料不容错过哦~

因篇幅有限，仅展示部分资料

精选Python书籍

帮你找来Python学习的相关书籍，想要系统学习编程的同学可以看一看。

由于篇幅原因，这里就不一一展开了，朋友们如果有需要全套《python从入门到精通》，点赞+评论入门即可，我都会回复的！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！