今天我们来进行 Python 爬虫实战,学以致用嘛,这也是咱们不断学习的动力!
我们要爬取的网站是YY直播,不知道有多少朋友知道,反正小编以前是不知道的,真的不知道~
那么为什么我们选择这个网站呢,因为小编在网站找文章素材的时候,无意中发现了一个超级棒的 api,可以直接返回该网站上的主播视频
https://api-tinyvideo-web.yy.com/home/tinyvideosv2
我们没有访问该地址,返回的结果都会变化,那么好了,我们只需要使用 Python 模拟网络请求,然后再解析对应的返回数据既可以了。
模拟请求
相信大家都不陌生,使用大名鼎鼎的 requests 库即可
url = 'https://api-tinyvideo-web.yy.com/home/tinyvideosv2'
headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}
response = requests.get(url=url, headers=headers)
data = response.json()
这样,变量json_data里面就是我们上面在浏览器中看到的数据,接下来就是解析该数据
解析数据
在上面的数据中,我们可以看出,resurl当中保存着视频连接,那么我们只需要拿出该参数,再通过 requests 库请求即可
for d in data_list:
video_title = str(d['yyNum']) + '.mp4'
video_url = d['resurl']
video_content = requests.get(url=video_url, headers=headers).content
变量video_content当中保存的就是视频信息,我们可以直接保存
保存视频
保存视频也比较简单,通过 open 函数完成
with open('video\\' + video_title, mode='wb') as f:
f.write(video_content)
print('保存完成:', video_title)
效果如下
保存到本地的视频如下
循环下载
前面我们也说了,每次访问该 api,都会返回不同的数据,所以我们可以反复多次访问,然后下载更多的视频
url = 'https://api-tinyvideo-web.yy.com/home/tinyvideosv2'
headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}
for _ in range(page+1):
response = requests.get(url=url, headers=headers)
data = response.json()
data_list = data['data']['data']
print(data_list)
完整代码
import requests
def fire(page):
url = 'https://api-tinyvideo-web.yy.com/home/tinyvideosv2'
headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}
for _ in range(page+1):
response = requests.get(url=url, headers=headers)
data = response.json()
data_list = data['data']['data']
print(data_list)
for d in data_list:
video_title = str(d['yyNum']) + '.mp4'
video_url = d['resurl']
video_content = requests.get(url=video_url, headers=headers).content
with open('video\\' + video_title, mode='wb') as f:
f.write(video_content)
print('保存完成:', video_title)
if __name__ == '__main__':
fire(10)
后续
今天的爬虫,我们还是取巧了,使用了 api 接口。在后面的文章中,我们还会直接爬取页面信息,然后下载不同主播,不同类型的视频,一起期待吧~
感兴趣的小伙伴,赠送全套Python学习资料,包含面试题、简历资料等具体看下方。
一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、Python必备开发工具
工具都帮大家整理好了,安装就可直接上手!
三、最新Python学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、Python视频合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
六、面试宝典
简历模板
若有侵权,请联系删除