跪了，原来大神都是这么做，难怪使用办公软件效率这么高

最新推荐文章于 2024-11-11 21:30:41 发布

前端码农老范

最新推荐文章于 2024-11-11 21:30:41 发布

阅读量176

点赞数 4

文章标签： python 机器学习

本文链接：https://blog.csdn.net/weixin_55688024/article/details/114745656

版权

在现在社会需求比较多的python中，包含了大量的用来处理社会各行各业的难题的模块，这些模块简化了我们的工作内容，提升了我们的工作效率，并且使用非常简单

Pyppeteer 是什么

介绍 Pyppeteer 之前，有必要先介绍一下 Puppeteer，Puppeteer 是谷歌官方出的一个通过DevTools协议控制headless Chrome的Node库。通过Puppeteer可以直接控制Chrome浏览器模拟大部分用户操作。

所谓Headless Chrome 就是 Chrome 浏览器的无界面形态。

而 Pyppeteer 就是 Puppeteer 的 Python 版本非官方实现，它是一位来自于日本的工程师依据 Puppeteer 的一些功能开发出来的非官方版本

Pyppeteer 采用了 Python 的 async 机制，需要Python3.5 及以上版本才支持。

Pyppeteer能做什么

但凡是需要通过Chrome浏览器手动完成的操作都可以通过 Pyppeteer 自动完成，例如：

生成页面截图
生成PDF文件
抓取单页面应用并生成预先呈现的内容
从网站抓取你需要的内容
自动表单提交，UI测试，键盘输入等

截图

例如将页面生成截图可以直接调用 page.screenshot 方法

import asyncio
from pyppeteer import launch

async def main():
    browser = await launch()
    page = await browser.newPage()
    await page.goto('https://foofish.net')
    await page.screenshot({'path': 'example.png'})
    await browser.close()

asyncio.get_event_loop().run_until_complete(main())

截图功能在海报分享等场景用的多，有看过有赞工程师分享的一篇文章，就有用到Puppeteer来做海报分享，性能比Canvas高。

而将网页转换为PDF的应用场景更多，比如将网站博客、专栏，或者公众号文章批量导出PDF，方便离线阅读，比如我们最近做的一个医疗项目需要将用户填写的资料支持PDF形式批量导出，就是用的Pyppeteer

导出PDF

导出pdf直接调用page.pdf方法就可以，代码非常简洁

import asyncio
from pyppeteer import launch

async def main():
    browser = await launch()
    page = await browser.newPage()
    await page.goto('https://foofish.net')
    await page.pdf({
        "path": "example.pdf", "format": 'A4'})
    await browser.close()

asyncio.get_event_loop().run_until_complete(main())

接下来我们以公众号文章为例，将html页面制作成一个PDF文件。

公众号链接导出PDF示例

安装 pyppeteer

pip install pyppeteer

任意找一篇公众号的文章链接

 url = "https://mp.weixin.qq.com/s/6VBXs19icV0O5hT7cHYwgw"

完成代码：

    browser = await launch()
    page = await browser.newPage()
    url = "https://mp.weixin.qq.com/s/6VBXs19icV0O5hT7cHYwgw"
    await page.goto(url)
    file_name = "test.pdf"
    await page.pdf({"path": file_name, "format": 'A4'})
    await browser.close()

第一次运行的时候，会自动下载chromium浏览器，chromium是chrome的开源版本，需要几分钟才能下载完

[W:pyppeteer.chromium_downloader] start chromium download.
Download may take a few minutes.
100%|██████████| 127496521/127496521 [00:20<00:00, 6268578.80it/s]
[W:pyppeteer.chromium_downloader] 
chromium download done.
[W:pyppeteer.chromium_downloader] chromium extracted to: C:\Users\lzjun\AppData\Local\pyppeteer\pyppeteer\local-chromium\575458

执行完成后，我们来预览下pdf文件

和原文链接对比，发现文章中的图片丢失了。

通过分析，原来是页面源代码中，img 标签没有src属性，只有个src 属性，默认情况下图片是无法正常显示的，图片之所有能在浏览器能正常展示出来，是有个js脚本动态地修改了dom元素为 <img src='xxxx'>

这个网页使用的是一种叫懒加载的技术展示图片内容，所谓懒加载就是图片不会一次全部下载完，而是当前浏览到什么位置，就加载该处的图片，这样能提高页面的响应速度，同时减轻服务器性能。

所以，我们也可以通过js代码模拟真人浏览网页一样，滚动鼠标，不停地往下滑动，将图片动态加载出来。

最后，完整代码就变成了这样：

async def main():
    browser = await launch()
    page = await browser.newPage()
    url = "https://mp.weixin.qq.com/s/6VBXs19icV0O5hT7cHYwgw"
    await page.goto(url)
    await page.evaluate('''async () => {
                    await new
                Promise((resolve, reject) => {
                    var
                totalHeight = 0;
                var
                distance = 100;
                var
                timer = setInterval(() => {
                    var
                scrollHeight = document.body.scrollHeight;
                window.scrollBy(0, distance);
                totalHeight += distance;

                if (totalHeight >= scrollHeight){
                clearInterval(timer);
                resolve();
                }
                }, 100);
                });
        }''')
    await page.pdf({
        "path": "test.pdf", "format": 'A4'})
    await browser.close()

if __name__ == '__main__':
    asyncio.get_event_loop().run_until_complete(main())

将js 代码封装成一个字符串当作参数传给 page.evaluate 函数，该代码就是获不断滚动页面，直到页面底部为止。这样整个页面的图片就全部加载出来了。

效果看起来还不错，和原页面的样式是一样的（点击图片放大查看）