Python爬虫入门教程23:A站视频的爬取,解密m3u8视频格式
PS:如有需要 Python学习资料
以及 解答
的小伙伴可以加点击下方链接自行获取
-
Python 3.6
-
Pycharm
import requests
import parsel
import re
import os
import pdfkit
安装Python并添加到环境变量,pip安装需要的相关模块即可。
需要使用到一个软件 wkhtmltopdf
这个软件的作用就是把html文件转成PDF
(软件可以点击上方链接在学习交流群中即可获取
)
想要把文档内容保存成PDF, 首先保存成html文件, 然后把html文件转PDF
写爬虫程序,对于数据来源的分析,是比较重要的,因为只有当你知道数据的来源你才能通过代码去实现
网站分类有比较多种, 也可以选择自己要爬取的。
这个网站如果你只是正常直接去复制文章内容的话,会直接弹出需要费的窗口…
但是这个网站上面的数据内容又非常好找, 因为网站本身仅仅只是静态网页数据,可以直接获取相关的内容。
通过上述内容,如果想要批量下载文章内容, 获取每篇文章的url地址即可, 想要获取每篇文章的url地址,这就需要去文章的列表页面找寻相关的数据内容了。
-
发送请求,对于文章列表url地址发送请求
-
获取数据,获取网页源代码数据内容
-
解析数据,提取文章url地址
-
发送请求,对于文章url地址发送请求
-
获取数据,获取网页源代码数据内容
-
解析数据,提取文章标题以及文章内容
-
保存数据,把获取的数据内容保存成PDF
-
转成PDF文件
import requests
import parsel
import re
import os
import pdfkit
html_filename = ‘html\’
if not os.path.exists(html_filename):
os.mkdir(html_filename)
pdf_filename = ‘pdf\’
if not os.path.exists(pdf_filename):
os.mkdir(pdf_filename)
html_str = “”"
<!doctype html>
{article}
“”"
def change_title(name):
pattern = re.compile(r"[/\😗?“<>|]”) # ‘/ \ : * ? " < > |’
new_title = re.sub(pattern, “_”, name) # 替换为下划线
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)
nimg.cn/img_convert/9f49b566129f47b8a67243c1008edf79.png)
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注Python)
![img](https://i-blog.csdnimg.cn/blog_migrate/d5c40d81129e742db5e92a6c10719cce.jpeg)