Python爬虫入门教程15：音乐网站数据的爬取

最新推荐文章于 2024-05-30 18:05:01 发布

m0_60635637

最新推荐文章于 2024-05-30 18:05:01 发布

阅读量722

点赞数 15

分类专栏：程序员学习文章标签： python 爬虫开发语言

本文链接：https://blog.csdn.net/m0_60635637/article/details/136860679

版权

程序员学习专栏收录该内容

8 篇文章 0 订阅

订阅专栏

1、F12或者鼠标右键点击检查打开开发者工具，点击播放音乐，下面会加载出音乐数据。在这里插入图片描述

干饭人之歌音频数据地址：

https://gm-sycdn.kuwo.cn/82c2c756b7ebeacb907831ff0906199e/601a3aa9/resource/n2/88/78/3642423505.mp3

复制链接粘贴到浏览器中在这里插入图片描述

2、根据音频链接中的参数，搜索查找来源

在这里插入图片描述

音频链接来源

https://www.kuwo.cn/url?format=mp3&rid=160864905&response=url&type=convert_url3&br=128kmp3&from=web&t=1612331691895&httpsStatus=1&reqId=550f7f80-65e4-11eb-9b00-6d65a3b5fef1

一首歌曲的来源地址是找不出规律的，所以要再对比一些另外一首歌曲的链接参数

在这里插入图片描述

如图所示： rid 和 t 参数不一样，很明显 t 就是代表的时间戳，这个使用 time.time() 就有了，所以可以继续在开发者工具中搜索 rid 的值

在这里插入图片描述

https://www.kuwo.cn/api/www/bang/bang/musicList?bangId=93&pn=1&rn=30&httpsStatus=1&reqId=428dcbf0-65e4-11eb-9b00-6d65a3b5fef1

rid 以及歌名歌手名都有了。

三、💥代码实现

爬虫分析思路是从上到下开始分析，写代码则是从下往上写。

1、获取音乐的 rid 、歌名、歌手名

import pprint

import requests

def get_response(html_url):

headers = {

‘Cookie’: ‘你自己的cookie’,

‘csrf’: ‘D2YF7NMH81N’,

‘Host’: ‘www.kuwo.cn’,

‘Referer’: ‘https://www.kuwo.cn/rankList’,

‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,

}

response = requests.get(url=html_url, headers=headers)

return response

def get_music_info(html_url):

json_data = get_response(html_url).json()

pprint.pprint(json_data)

music_list = json_data[‘data’][‘musicList’]

for index in music_list:

music_name = index[‘album’]

singer = index[‘artist’]

music_rid = index[‘rid’]

if name == ‘main’:

url = ‘https://www.kuwo.cn/api/www/bang/bang/musicList?bangId=93&pn=1&rn=30&httpsStatus=1&reqId=428dcbf0-65e4-11eb-9b00-6d65a3b5fef1’

get_music_info(url)

在这里插入图片描述

返回的是一个json数据，一个一个去取值就可以了，主要的注意点就是headers参数的问题，如果参数不给全，爬取不到数据。

2、获取音频URL地址

def get_music_url(music_rid):

page_url = f’https://www.kuwo.cn/url?format=mp3&rid={music_rid}&response=url&type=convert_url3&br=128kmp3&from=web&t=1612331691895&httpsStatus=1&reqId=550f7f80-65e4-11eb-9b00-6d65a3b5fef1’

json_data = get_response(page_url).json()

music_url = json_data[‘url’]

return music_url

3、保存音频数据

一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。