一天“速成”python网络爬虫后，我明白了一个道理

随着机器学习、人工智能在互联网行业中的大热，算法领域程序员薪资的水厂船高，Python逐渐成为一门明星编程语言。Python编程语言以其简洁的语法特点、清晰的代数逻辑，以及海量的第三方库而著称。所谓人生苦短，我用Python，越来越多的人开始投入学习。据说，部分地区的小学生信息课程甚至也加入了Python。实在是大势所趋，势不可挡。

当然在市场经济下，任何风潮的流行都是一小拨人捞金的本钱。比如市面上有大大小小的程序员培训机构，有各种各样的网络课堂。甚至在自媒体行业，也涌现出越来越多用“教Python”来赚钱的营销号。

我最近闲来无事，浏览了一些有关Python的营销组织，发现了一个有趣的现象：70%的营销号在宣传和介绍Python语言的时候，都是在讲Python的网络爬虫。

诚然，早在两年前，我就在某个星期通过自学掌握了Python，之前在硕士阶段的实习中也熟练使用过这门语言。不过，因为我本身也只是一名转行的程序员（我的本专业是材料科学），计算机基础并不深厚，对所谓的网络爬虫所知甚少。

这些营销号最喜欢的套路是：“教你七天速成Python网络爬虫”“现在加入学习社群有5折优惠”“前三节直播课免费试听，后四节课保证教会你Python爬虫”……五花八门的卖课号都是这种模式。

那么，Python爬虫究竟是什么呢？

在耗费了一天时间浏览各种各样的“教你写Python爬虫”营销类文章后，我大致摸清了这些文章是在说什么。

总结起来，三句话：

1、 用Python连上特定的网站。

2、 用Python抓取网页信息，拉到本地。

3、 解析拉取的信息，存储或者可视化。

说实话这个套路让我相当崩溃。这就好比你点开了一个图片网站，找了个图片的网址，然后根据这个网址把图片下载到了本地……这与其说是教网络爬虫，不如说是在教Python的应用……

我进一步查阅了一些资料，发现现实意义下的爬虫，其实远没有这么简单。常见的爬虫，比如搜索引擎爬虫，承担的是人们海量点击、搜索下的信息爬取和页面呈现。这其中涉及了许许多多计算机网络、算法与数据结构的知识，对前端的知识要求也很高。比如，你要提升爬虫效率，是广度搜索还是深度搜索？你要应对网络问题，应该如何处理高并发高负载？你要面对诸多网站的反爬机制，应当怎样在合理合法的情况下拉取数据？这些问题，都不是一两天工夫能教会的，需要长期的技术磨砺和经验积累。

不得不说，营销号急功近利的吹嘘所谓“速成网络爬虫”，实在不可取。纯小白入门，也不应该上手就学这种鸡肋的“爬虫”，而是应该先打好计算机知识的基础，至少应该先熟练掌握Python。

在我看来，Python的学习，完全不需要给这些培训机构和营销号送钱。如果你英语不错，直接看官方文档。如果不想看英文，买一本经典教材，老老实实敲一遍代码。如果喜欢在线学，网上免费且优质的学习资源也有很多。至于说爬虫，等你熟练掌握了Python再学也不迟。

最后贴一段，我在了解了营销号口中的“爬虫”之后短时间速成的一段代码。其基本思路就是我上面说过的123。1，连接图片网站，带上搜索关键词（这里以迪丽热巴为例）；2，用正则表达式抠出图片地址；3，根据地址把图片下载到本地。

之后是效果图。

当然了，如果你真的想学好所谓爬虫，最好还是先学好计算机基础知识，特别是网络和算法知识，并熟练掌握一门编程语言（其实Python并非唯一选择，Java、PHP、Go等都可以写爬虫）。我这种半成品离真正的网络爬虫还差了八万里的距离。这篇文章其实只是在揭示一个道理：要想功夫深，哪能不吃苦。

这世上，所有教人速成的把戏，都是骗人的。

题外话：如果你愿意关注我，和我一起学习，我发誓不会像营销卖课号那样骗钱割韭菜。我是一个正经老实人。

文章转载

作者：贾湖图

原文链接：https://zhuanlan.zhihu.com/p/51301179