Python3 爬虫快速入门攻略

一、什么是网络爬虫？

1、定义：网络爬虫（Web Spider），又被称为网页蜘蛛，是一种按照一定的规则，自动地抓取网站信息的程序或者脚本。

2、简介：网络蜘蛛是一个很形象的名字。如果把互联网比喻成一个蜘蛛网，那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页，从 网站某一个页面开始，读取网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。

3、爬虫流程：①先由urllib的request打开Url得到网页html文档——②浏览器打开网页源代码分析元素节点——③通过Beautiful Soup或则正则表达式提取想要的数据——④存储数据到本地磁盘或数据库（抓取，分析，存储）

本人对于Python学习创建了一个小小的学习圈子，为各位提供了一个平台，大家一起来讨论学习Python。欢迎各位到来Python学习群：301056069 一起讨论视频分享学习。Python是未来的发展方向，正在挑战我们的分析能力及对世界的认知方式，因此，我们与时俱进，迎接变化，并不断的成长，掌握Python核心技术，才是掌握真正的价值所在。

二、上代码，直接看注释

开发环境：Win10+Python 3.6.1 64bit+PyCharm，自学Python 3爬虫时的备忘笔记。

1、爬取简书网站首页文章的标题和文章链接

结果：

2、爬取知乎网站的美女图片链接，并保存到本地

结果：

三、学习总结

     大概学习了下通过urllib和Beautiful Soup 进行简单数据爬取的流程，但是那只适用于一些简单的、数据量比较小的爬虫

项目，如果需要爬取的数据量比较大的话，之前的方法必定非常缓慢，而且还可能遇到大规模爬虫IP被网站封禁的情况，因

为好的网站会有反爬虫策略。多线程和分布式爬虫、 IP代理、处理验证码、模拟登陆、内置浏览器引擎爬虫，还有注意配合

反爬虫措施比较少的移动APP端抓取（抓包工具Fiddler）等等问题。

来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/31561003/viewspace-2284495/，如需转载，请注明出处，否则将追究法律责任。

转载于:http://blog.itpub.net/31561003/viewspace-2284495/