浏览器引用
我们光安装了之后还不行,还要进行浏览器的引入
。这个也是非常的头疼,看了好多的教程都不可以。可能是他们的系统不一样,在这里折腾很久都想放弃了。还好有这篇文章解决了我的问题,我知道是路径有误但我不知道怎么写。
浏览器下载之后我们就解压放到根目录下面,与package.json同级。然后我们在根目录下新建一个index.js文件。
const puppeteer = require(“puppeteer”);
const fs = require(“fs”);
const request = require(“request”);
const path = require(“path”);
//配置路径,关键!
const pathToExtension = require(“path”).join(
__dirname,
“./chrome-win/chrome.exe”
);
最后我的项目目录:
我们都设置好了之后我们就开始选取一个网站进行测试了,我这里就选择了这个来爬取图片。
其实我们知道万物皆可爬,只要分析对了就好。前端最熟悉不过的F12走一波就好。看了一下大概结构是长这样的,准备好了之后开始撸码。
反手一写(CV)就出来这样的代码。
const puppeteer = require(“puppeteer”);
const fs = require(“fs”);
const request = require(“request”);
const path = require(“path”);
let i = 2;//页数
async function netbian(i) {
const pathToExtension = require(“path”).join(
__dirname,
“./chrome-win/chrome.exe”
);
const browser = await puppeteer.launch({
headless: false,
executablePath: pathToExtension,
});
const page = await browser.newPage();
await page.goto(http://pic.netbian.com/4kfengjing/index_${i}.html
);//为了方便从第二页开始
let images = await page.$$eval(“ul>li>a>img”, (el) =>//图片节点,API可查看官方介绍
el.map((x) => “http://pic.netbian.com” + x.getAttribute(“src”))//获取图片的src地址
);
mkdirSync(./images
); // 存放目录
for (m of images) {
await downloadImg(m, “./images/” + new Date().getTime() + “.jpg”);
}
netbian(++i);//下一页,具体结束页可以自己限制
// 关闭
await browser.close();
}
netbian(i);//这里执行
// 同步创建目录
function mkdirSync(dirname) {
if (fs.existsSync(dirname)) {
return true;
} else {
if (mkdirSync(path.dirname(dirname))) {
fs.mkdirSync(dirname);
return true;
}
}
return false;
}
// 下载文件 保存图片
async function downloadImg(src, path) {
return new Promise(async function (resolve, reject) {
let writeStream = fs.createWriteStream(path);
let readStream = await request(src);
await readStream.pipe(writeStream);
readStream.on(“end”, function () {
console.log(“文件下载成功”);
});
readStream.on(“error”, function () {
console.log(“错误信息:” + err);
});
writeStream.on(“finish”, function () {
console.log(“文件写入成功”);
writeStream.end();
resolve();
});
});
}
最后
🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!