如何结合Node和Puppeteer做网络爬虫

同时也看了一些同学的评价，觉得这个东西是非常的amazing啊！虽然我还没有深入去了解全部的API，但是也算是懂得大概的流程。大家如果官方的文档看不懂的话可以去B站看一下基本的介绍，puppeteer系列教程。

02 安装过程

---

puppeteer安装

关于这个安装的事情真的是非常的头疼，搞了许久才安装成功。原因就是高高的围墙使得城内的人出不去。所以我们只有换另外一种方法来安装了。

我们直接npm安装的过程默认是要下载浏览器的，我就是在这里一直卡住然后报错，试了好几次都是这样。经过网友们的介绍我们是可以不用在安装puppeteer的时候下载浏览器的，我们可以事后才去下载。

env PUPPETEER_SKIP_CHROMIUM_DOWNLOAD=true npm i puppeteer

我们这样就可以成功安装puppeteer了，接下来我们就要去手动安装浏览器了。那么我们要去哪里下载呢？我要手动下载

这里面非常多的版本号，看了网上的教程我们要选择合适的版本号（不知道随便下载一个可不可以），我们回到项目的根目录下面node_modules/puppeteer/package.json这个目录，查看一下我们的浏览器版本是多少。

我这里就是现实737027的版本号，我们就去手动下载这个浏览器就可以了。大家可以根据自己的版本进行下载。

浏览器引用

我们光安装了之后还不行，还要进行浏览器的引入。这个也是非常的头疼，看了好多的教程都不可以。可能是他们的系统不一样，在这里折腾很久都想放弃了。还好有这篇文章解决了我的问题，我知道是路径有误但我不知道怎么写。

浏览器下载之后我们就解压放到根目录下面，与package.json同级。然后我们在根目录下新建一个index.js文件。

const puppeteer = require(“puppeteer”);

const fs = require(“fs”);

const request = require(“request”);

const path = require(“path”);

//配置路径，关键！

const pathToExtension = require(“path”).join(

__dirname,

“./chrome-win/chrome.exe”

);

最后我的项目目录：

03 选择网站

---

我们都设置好了之后我们就开始选取一个网站进行测试了，我这里就选择了这个来爬取图片。

其实我们知道万物皆可爬，只要分析对了就好。前端最熟悉不过的F12走一波就好。看了一下大概结构是长这样的，准备好了之后开始撸码。

反手一写（CV）就出来这样的代码。

const puppeteer = require(“puppeteer”);

const fs = require(“fs”);

const request = require(“request”);

const path = require(“path”);

let i = 2;//页数

async function netbian(i) {

const pathToExtension = require(“path”).join(

__dirname,

“./chrome-win/chrome.exe”

);

const browser = await puppeteer.launch({

headless: false,

executablePath: pathToExtension,

});

const page = await browser.newPage();

await page.goto(http://pic.netbian.com/4kfengjing/index_${i}.html);//为了方便从第二页开始

let images = await page.$$eval(“ul>li>a>img”, (el) =>//图片节点，API可查看官方介绍

el.map((x) => “http://pic.netbian.com” + x.getAttribute(“src”))//获取图片的src地址

);

mkdirSync(./images); // 存放目录

for (m of images) {

await downloadImg(m, “./images/” + new Date().getTime() + “.jpg”);

}

netbian(++i);//下一页，具体结束页可以自己限制

// 关闭

await browser.close();

}

netbian(i);//这里执行

// 同步创建目录

function mkdirSync(dirname) {

if (fs.existsSync(dirname)) {

return true;

} else {

if (mkdirSync(path.dirname(dirname))) {

fs.mkdirSync(dirname);

return true;

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！