Python爬虫入门教程08：爬取csdn文章保存成PDF

最新推荐文章于 2024-05-13 13:52:57 发布

嗨学编程

最新推荐文章于 2024-05-13 13:52:57 发布

阅读量3.1k

点赞数 6

分类专栏： Python爬虫文章标签： python

本文链接：https://blog.csdn.net/fei347795790/article/details/113178228

版权

Python爬虫专栏收录该内容

677 篇文章 323 订阅

订阅专栏

前言💨

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

前文内容💨

Python爬虫入门教程01：豆瓣Top电影爬取

Python爬虫入门教程02：小说爬取

Python爬虫入门教程03：二手房数据爬取

Python爬虫入门教程04：招聘信息爬取

Python爬虫入门教程05：B站视频弹幕的爬取

Python爬虫入门教程06：爬取数据后的词云图制作

Python爬虫入门教程07：腾讯视频弹幕爬取

PS：如有需要 Python学习资料 以及 解答 的小伙伴可以加点击下方链接自行获取
python免费学习资料以及群交流解答点击即可加入

基本开发环境💨

Python 3.6
Pycharm
wkhtmltopdf

一、💥目标需求

在这里插入图片描述
将CSDN这上面的文章内容爬取保存下来，保存成PDF的格式。

二、💥网页数据分析

如果想要把网页文章内容保存成PDF，首先你要下载一个软件 wkhtmltopdf 不然你是没有办法实现的。可以自行去百度搜索下载，也可以找上面的 交流群 下载。
在这里插入图片描述
前几篇文章已经讲了，关于文字方面的爬取方式，对于爬取文本内容还是没有难度了吧。

想要获取文章内容，首先就要爬取每篇文章的url地址。
在这里插入图片描述
具体分析的流程之前的文章也有分享过，这里就跳过了。

python爬取CSDN博客文章并制作成PDF文件

💥完整实现代码

import pdfkit
import requests
import parsel

html_str = """
<!doctype html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Document</title>
</head>
<body>
{article}
</body>
</html>
"""


def save(article, title):
    pdf_path = 'pdf\\' + title + '.pdf'
    html_path = 'html\\' + title + '.html'
    html = html_str.format(article=article)
    with open(html_path, mode='w', encoding='utf-8') as f:
        f.write(html)
        print('{}已下载完成'.format(title))
    # exe 文件存放的路径
    config = pdfkit.configuration(wkhtmltopdf='C:\\Program Files\\wkhtmltopdf\\bin\\wkhtmltopdf.exe')
    # 把 html 通过 pdfkit 变成 pdf 文件
    pdfkit.from_file(html_path, pdf_path, configuration=config)


def main(html_url):
    # 请求头
    headers = {
        "Host": "blog.csdn.net",
        "Referer": "https://blog.csdn.net/qq_41359265/article/details/102570971",
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36",
    }
    # 用户信息
    cookie = {
        'Cookie': '你自己的cookie'
    }
    response = requests.get(url=html_url, headers=headers, cookies=cookie)
    selector = parsel.Selector(response.text)
    urls = selector.css('.article-list h4 a::attr(href)').getall()
    for html_url in urls:
        response = requests.get(url=html_url, headers=headers, cookies=cookie)
        # text 文本（字符串）
        # 遭遇了反扒
        # print(response.text)
        """如何把 HTML 变成 PDF 格式"""
        # 提取文章部分
        sel = parsel.Selector(response.text)
        # css 选择器
        article = sel.css('article').get()
        title = sel.css('h1::text').get()
        save(article, title)


if __name__ == '__main__':
    url = 'https://blog.csdn.net/fei347795790/article/list/1'
    main(url)

在这里插入图片描述

嗨学编程

关注

6
点赞
踩
35

收藏

觉得还不错? 一键收藏
1
评论
Python爬虫入门教程08：爬取csdn文章保存成PDF

前言????本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。前文内容????Python爬虫入门教程01：豆瓣Top电影爬取Python爬虫入门教程02：小说爬取Python爬虫入门教程03：二手房数据爬取Python爬虫入门教程04：招聘信息爬取Python爬虫入门教程05：B站视频弹幕的爬取Python爬虫入门教程06：爬取数据后的词云图制作Python爬虫入门教程07：腾讯视频弹幕爬取PS：如有需要 Python学习资料以及解
复制链接

扫一扫