2024年最全Python爬取酷然短视频,别说这网站还有点像Youtube,2024年最新Python面试自我介绍范文

(1)Python所有方向的学习路线(新版)

这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

最近我才对这些路线做了一下新的更新,知识体系更全面了。

在这里插入图片描述

(2)Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

在这里插入图片描述

(3)100多个练手项目

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。

在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

https://krcom.cn/aj/dash/media?media_ids=2358773:4554544017768456&protocols=dash&watermarks=krcom

多找几个视频就可以发现接口数据URL只是 media_ids 这个参数的变化而已,恰好这个参数又是视频所对应的ID值

那么问题来了,酷燃视频这个网站并不是静态网站,按道理来说动态数据加载的话,在 network 里面的 XHR 也应该是有相对应的数据地址的呀

在这里插入图片描述

如上图所示,可以发现并没有数据接口, 那应该怎么找呢?

当往下滑的时候可以发现,这个网站是瀑布流的数据加载,那我就把前面的ALL 所有数据都清空,然后往下滑,这样出现新的数据加载,就会出现数据地址!

在这里插入图片描述

如上图所示,当往下滑的时候就出现了一个数据,可以发现数据里面包含了vid值,这个就是视频的id值,同样的找到了地址,总不能只是爬取一页数据吧,所以还是需要分析URL地址的变化

https://krcom.cn/aj/hot/loadingmore?ajwvr=6&cursor=20;2020102015&YmdH=&__rnd=1603180127937

上面已经说多了,想要知道URL地址的变化,那么就多找几个地址对比一下就指导

在这里插入图片描述

通过对比后可以指导 cursor=20 是改变的是从0开始没20个视频跳转一次,一切的一切都分析好了~

分析网页是从尾到头

写代码就是从头到尾了

单页爬取完整代码


import pprint

import requests

import re

def download_video(title, url):

filename_video = ‘D:\python\demo\酷燃视频\短视频\’ + title + ‘.mp4’

response_video = requests.get(url=url)

with open(filename_video, mode=‘wb’) as f:

f.write(response_video.content)

def download_mp3(title, url):

filename_mp3 = ‘D:\python\demo\酷燃视频\短视频\’ + title + ‘.mp3’

response_mp3 = requests.get(url=url)

with open(filename_mp3, mode=‘wb’) as f:

f.write(response_mp3.content)

for page in range(0, 101, 20):

url = ‘https://krcom.cn/aj/hot/loadingmore?ajwvr=6&cursor=0;2020102014&YmdH=&__rnd=1603176486876’

headers = {

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’

}

response = requests.get(url=url, headers=headers)

html_data = response.text.encode(‘utf-8’).decode(‘unicode_escape’)

urls = re.findall(‘vid=(.*?)"’, html_data, re.S)

titles = re.findall(‘

(.*?)<’, html_data, re.S)

data = zip(urls, titles)

for i in data:

vid = i[0]

title = i[1]

page_url = ‘https://krcom.cn/aj/dash/media?media_ids={}&protocols=dash&watermarks=krcom’.format(vid)

response_2 = requests.get(url=page_url, headers=headers)

html_json = response_2.json()

video_url = html_json[‘data’][‘list’][0][‘details’][1][‘play_info’][‘url’]

mp3_url = html_json[‘data’][‘list’][0][‘details’][-1][‘play_info’][‘url’]

download_video(title, video_url)

download_mp3(title, mp3_url)

print(title)

在这里插入图片描述

在这里插入图片描述

最后

不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~

给大家准备的学习资料包括但不限于:

Python 环境、pycharm编辑器/永久激活/翻译插件

python 零基础视频教程

Python 界面开发实战教程

Python 爬虫实战教程

Python 数据分析实战教程

python 游戏开发实战教程

Python 电子书100本

Python 学习路线规划

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值