一、需求
研究生学长让我把一个植物表型资讯系列文章的一系列文章爬下来保存为pdf或者html格式。
首页网址:
https://mp.weixin.qq.com/s?__biz=MzI0Mjg5ODI1Ng==&mid=2247486022&idx=1&sn=5f7c9aff1e3f1847812ce92304a3affc&chksm=e9740e79de03876fffc5ca39f70c105298acf5d2329d632e69cb997f8a07ba1234f97c91464c&scene=21#wechat_redirect
二、思路分析
列表的每一篇文章都应该是一个链接,因此先将首页保存下来分析其元素结构
找到各链接所在主体<div>
元素<div class="rich_media_content " id="js_content">
记录
确认每一个文章链接都在都是<a>
元素
因此思路就是 先获得主体块中的链接标签,根据文章名和链接保存每一篇文章。
三 、难点
难点在于保存pdf时,图片是要保存在pdf之中的,因此如果文章界面图片如果是是懒加载的时候,爬取的文章保存位html和pdf 图片都将会是空白的。
因此先去分析文章中图片的加载形式
选一篇文章分析:
可以看到图片加载采用的是data-src
加载的,因此需要将每一个<img>
的标签t图片链接改成src
形式。