知道了用requests去请求网页,这是爬取的第一步,当然了既然能够请求成功,自然我们可以知道了要进入网页去抓我们想要的数据。
要知道我们是从网页源代码当中找寻数据,而并非像一般的复制粘贴一样从浏览器表面获得。网页的构成无非是HTML、CSS、JavaScript三种语言构成,HTML 负责为网页添加内容,CSS 负责美化网页,JavaScript 负责让网页动起来。当然我们爬虫不需要将三大语言全部弄会,只需要知道几个特殊的标识符即可,所以爬虫是一个全方位的领域。
这是豆瓣网站的部分源代码:
<!DOCTYPE html>
<html lang="zh-cmn-Hans" class="ua-mac ua-webkit book-new-nav">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
<title>豆瓣图书 Top 250</title>
</head>
<body>
<div class="global-nav-items">
<a href="https://www.douban.com">豆瓣</a>
<a href="https://book.douban.com">读书</a>
<a href="https://movie.douban.com">电影</a>
<a href="