python 爬取资讯文章并保存html及pdf格式

一、需求

研究生学长让我把一个植物表型资讯系列文章的一系列文章爬下来保存为pdf或者html格式。
首页网址:
https://mp.weixin.qq.com/s?__biz=MzI0Mjg5ODI1Ng==&mid=2247486022&idx=1&sn=5f7c9aff1e3f1847812ce92304a3affc&chksm=e9740e79de03876fffc5ca39f70c105298acf5d2329d632e69cb997f8a07ba1234f97c91464c&scene=21#wechat_redirect
这里写图片描述

二、思路分析

列表的每一篇文章都应该是一个链接,因此先将首页保存下来分析其元素结构
这里写图片描述
找到各链接所在主体<div>元素<div class="rich_media_content " id="js_content">记录
这里写图片描述
确认每一个文章链接都在都是<a>元素
因此思路就是 先获得主体块中的链接标签,根据文章名和链接保存每一篇文章。

三 、难点

难点在于保存pdf时,图片是要保存在pdf之中的,因此如果文章界面图片如果是是懒加载的时候,爬取的文章保存位html和pdf 图片都将会是空白的。
因此先去分析文章中图片的加载形式
选一篇文章分析:
这里写图片描述
可以看到图片加载采用的是data-src加载的,因此需要将每一个<img>的标签t图片链接改成src形式。

评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值