阿里云大学课程:Python网络爬虫快速入门到精通
什么是网络爬虫
随着大数据时代的来临,网络爬虫在互联网中的地位将越来越重要。互联网中的数据是海量的,如何自动高效地获取互联网中我们感兴趣的信息并为我们所用是一个重要的问题,而爬虫技术就是为了解决这些问题而生的。我们感兴趣的信息分为不同的类型:如果只是做搜索引擎,那么感兴趣的信息就是互联网中尽可能多的高质量网页;如果要获取某一垂直领域的数据或者有明确的检索需求,那么感兴趣的信息就是根据我们的检索和需求所定位的这些信息,此时,需要过滤掉一些无用信息。前者我们称为通用网络爬虫,后者我们称为聚焦网络爬虫。
初识网络爬虫
网络爬虫又称网络蜘蛛、网络蚂蚁、网络机器人等,可以自动化浏览网络中的信息,当然浏览信息的时候需要按照我们制定的规则进行,这些规则我们称之为网络爬虫算法。使用Python可以很方便地编写出爬虫程序,进行互联网信息的自动化检索。
搜索引擎离不开爬虫,比如百度搜索引擎的爬虫叫作百度蜘蛛(Baiduspider)。百度蜘蛛每天会在海量的互联网信息中进行爬取,爬取优质信息并收录,当用户在百度搜索引擎上检索对应关键词时,百度将对关键词进行分析处理,从收录的网页中找出相关网页,按照一定的排名规则进行排序并将结果展现给用户。在这个过程中,百度蜘蛛起到了至关重要的作用。那么,如何覆盖互联网中更多的优质网页?又如何筛选这些重复的页面?这些都是由百度蜘蛛爬虫的算法决定的。采用不同的算法,爬虫的运行效率会不同,爬取结果也会有所差异。所以,我们在研究爬虫的时候,不仅要了解爬虫如何实现,还需要知道一些常见爬虫的算法,如果有必要,我们还需要自己去制定相应的算法,这些在后面都会为大家详细地讲解,在此,我们仅需要对爬虫的概念有一个基本的了解。
除了百度搜索引擎离不开爬虫以外,其他搜索引擎也离不开爬虫,它们也拥有自己的爬虫。比如360的爬虫叫360Spider,搜狗的爬虫叫Sogouspider,必应的爬虫叫Bingbot。
如果想自己实现一款小型的搜索引擎,我们也可以编写出自己的爬虫去实现,当然,虽然可能在性能或者算法上比不上主流的搜索引擎,但是个性化的程度会非常高,并且也有利于我们更深层次地理解搜索引擎内部的工作原理。
大数据时代也离不开爬虫,比如在进行大数据分析或数据挖掘时,我们可以去一些比较大型的官方站点下载数据源。但这些数据源比较有限,那么如何才能获取更多更高质量的数据源呢?此时,我们可以编写自己的爬虫程序,从互联网中进行数据信息的获取。所以在未来,爬虫的地位会越来越重要。
课程中Python专家为你详细讲解爬虫技术的原理与实战,3大框架详解+6场实战演练+反爬技术+分布式爬虫,讲师在线答疑,全面掌握Python爬虫。
包含课时
1.Python网络爬虫简介与表达式基础
介绍Python网络爬虫基础知识,包括网络爬虫初步认识与正则表达式数据筛选提取相关的知识。
2.基于Python Urllib库编写爬虫项目
讲解如何利用Python中的Urllib库来编写网络爬虫,包括Urllib使用基础与使用技巧,学完本节课可以编写出简单的爬虫。
3.网络爬虫抓包分析技术精讲
抓包分析可以获取一些无法直接获取的数据,本节课将介绍抓包分析的关键的步骤,掌握抓包分析将有利于编写更强大的爬虫。
4.基于Python Requests库编写爬虫项目
Requests是基于Urllib编写的Python库,使用比Urllib更方便,更加节省时间,也是一种不错的技术选择方案,本节课将介绍Requests的相关使用。
5.基于Scrapy框架编写爬虫项目
Scrapy是一个非常强大的Python爬虫框架,本节课教你学会使用Scrapy来编写爬虫项目。
6.招聘网站信息爬虫项目开发实战
爬虫项目实战:综合前面所学的技能,来实战招聘网站相关数据的爬取。
7.淘宝商品信息爬虫项目开发实战
学习本节课将让您掌握如何爬取淘宝网的商品数据,将综合之前所学习的爬虫知识与抓包分析技术。
8.知乎信息爬虫项目开发实战
学习本节课将让您掌握如何登录并爬取知乎网的数据,主要训练您的抓包分析能力与难点爬虫分析能力。
9.爬虫常见的反爬策略与反爬攻克手段
学习本节课将让您掌握网站是如何反爬的,并且为您介绍一些常见的反爬方式的攻克手段。
10.分布式爬虫编写实战
爬取大量的数据,单机爬虫的能力是有限的,本节课将为您介绍如何编写集群分布式爬虫进行数据的获取。
阿里云大学首页:阿里云大学
课程链接:Python网络爬虫快速入门到精通