于是有了这样一个决定，学习一门新的语言。
其实一直很纠结去学习哪种语言，说实话，如今技术迭代真的很快，想要不被淘汰，就要不断自我充电。
在选择语言方面，我考虑了这么几点：
1.学一门热门语言
全世界差不多有600多种编程语言，主流的有20多种。
为什么要选择热门语言呢？首先它的社区一定很活跃，有一群人在，在你自学的道路上能帮助你很多。其次，网上有很多较为全面的参考资料，源码项目供你学习，同时一些大牛的博客心得你都可以参考学习，大大降低了自学成本。
2.学一门高级语言
对于我来说，首先自身的基本功相对来说没有那么扎实。其次，对我来说，编写代码最终是为了解决实际的应用问题。
我不是研究底层，开发高效率的应用系统那块料的人。所以找一门高级语言，通过学习，通过利用第三方库，第三方组件，自己去处理拼接从而开发出满足自己需求的小工具，这对我来说意义比较大。
3.最重要的，学一门你感兴趣的语言
如果你学习的过程中一点兴趣都没有，那你是痛苦的，同时学习的效果也一定不理想。
最初我有三个方向，java、js、python。
至于为什么最后选择了Python，也是最后根据自己的实习情况来的。
首先排除了java，因为自己本身是c#方向的，再学一门java其实对于自身来说需求不大，java能开发的c#也基本都能够满足，复杂度来说两者也较为接近，兴趣度上也不是很高。
其次是js，目前来说js真的越来越火了，身边的很多同时也在学，对于纯后端的我来说确实学习js也不错，自己本身也有一定的基础。js也能开发一些有趣实用的脚本，对于工作和生活都有一定的帮助。
但是后来为什么没有选择呢，我想是因为从心底来说，还是更想学Python吧。
Python目前来说真的很火，很多产品和其他职业的人或多或少也都会点，其实Python真的可以做很多事情，主要也希望通过学习Python去开发一些有意思的小工具，丰富下生活，提高下工作效率。
1.学习 Python 包并实现基本的爬虫过程
大部分爬虫都是按“发送请求——获得页面——解析页面——抽取并储存内容”这样的流程来进行，这其实也是模拟了我们使用浏览器获取网页信息的过程。Python中爬虫相关的包很多：urllib、requests、bs4、scrapy、pyspider 等，建议从requests+Xpath 开始，requests 负责连接网站，返回网页，Xpath 用于解析网页，便于抽取数据。
如果你用过 BeautifulSoup，会发现 Xpath 要省事不少，一层一层检查元素代码的工作，全都省略了。这样下来基本套路都差不多，一般的静态网站根本不在话下。当然如果你需要爬取异步加载的网站，可以学习浏览器抓包分析真实请求或者学习Selenium来实现自动化。
2.了解非结构化数据的存储
爬回来的数据可以直接用文档形式存在本地，也可以存入数据库中。开始数据量不大的时候，你可以直接通过 Python 的语法或 pandas 的方法将数据存为csv这样的文件。当然你可能发现爬回来的数据并不是干净的，可能会有缺失、错误等等，你还需要对数据进行清洗，可以学习 pandas 包的基本用法来做数据的预处理，得到更干净的数据。
3.学习scrapy，搭建工程化爬虫
掌握前面的技术一般量级的数据和代码基本没有问题了，但是在遇到非常复杂的情况，可能仍然会力不从心，这个时候，强大的 scrapy 框架就非常有用了。scrapy 是一个功能非常强大的爬虫框架，它不仅能便捷地构建request，还有强大的 selector 能够方便地解析 response，然而它最让人惊喜的还是它超高的性能，让你可以将爬虫工程化、模块化。学会 scrapy，你可以自己去搭建一些爬虫框架，你就基本具备Python爬虫工程师的思维了。
4.学习数据库知识，应对大规模数据存储与提取
爬回来的数据量小的时候，你可以用文档的形式来存储，一旦数据量大了，这就有点行不通了。所以掌握一种数据库是必须的，学习目前比较主流的MongoDB就OK。MongoDB 可以方便你去存储一些非结构化的数据，比如各种评论的文本，图片的链接等等。你也可以利用PyMongo，更方便地在Python中操作MongoDB。因为这里要用到的数据库知识其实非常简单，主要是数据如何入库、如何进行提取，在需要的时候再学习就行。
5.掌握各种技巧，应对特殊网站的反爬措施
当然，爬虫过程中也会经历一些绝望啊，比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。遇到这些反爬虫的手段，当然还需要一些高级的技巧来应对，常规的比如访问频率控制、使用代理IP池、抓包、验证码的OCR处理等等。往往网站在高效开发和反爬虫之间会偏向前者，这也为爬虫提供了空间，掌握这些应对反爬虫的技巧，绝大部分的网站已经难不到你了。
6.分布式爬虫，实现大规模并发采集，提升效率
爬取基本数据已经不是问题了，你的瓶颈会集中到爬取海量数据的效率。这个时候，相信你会很自然地接触到一个很厉害的名字：分布式爬虫。
分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理让多个爬虫同时工作，需要你掌握Scrapy+ MongoDB + Redis 这三种工具。
Scrapy 前面我们说过了，用于做基本的页面爬取，
MongoDB 用于存储爬取的数据，
Redis 则用来存储要爬取的网页队列，也就是任务队列。
所以有些东西看起来很吓人，但其实分解开来，也不过如此。当你能够写分布式的爬虫的时候，那么你可以去尝试打造一些基本的爬虫架构了，实现一些更加自动化的数据获取。
学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！
基础阶段视频
一、Python所有方向的学习路线
Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。
二、Python必备开发工具
工具都帮大家整理好了，安装就可直接上手！
三、最新Python学习笔记
当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。
四、Python视频合集
观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。
五、实战案例
纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
六、面试宝典
简历模板
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
138
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
