2024年Python批量爬取华语天王巨星周杰伦的音乐(1),互联网公司面试技巧

最后

🍅 硬核资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 技术互助:技术群大佬指点迷津,你的问题可能不是问题,求资源在群里喊一声。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、数据仓库、Python、前端等等。

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

在这里插入图片描述

目标网站分析


在这里插入图片描述

点击播放按钮,会自动跳转到音乐播放页面

在这里插入图片描述

播放界面有一个下载按钮,点击下载。

是需要登陆账号

在这里插入图片描述

  • 打开开发者工具

  • 选择network

  • 点击立即下载

会有一个下载的数据接口,post请求的数据接口,里面返回的数据有携带音频真实地址。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

复制url地址,是会自动下载文件到本地的

既然是post请求,只需要看data参数的变化,看它需要传递那些参数

在这里插入图片描述

多查看几首歌曲的下载氢气,就可以发现 copyrightId 就是每首音乐的ID值,只需要获取每首歌曲的ID值,就可以下载音乐了。

所以返回到周杰伦的音乐列表页

在这里插入图片描述

可以发现音乐列表页是静态网站,获取可以直接用过requests请求网站解析网站数据,可以获取音乐的ID值以及标题。

现在就是剩下最后一个问题了,那就是翻页,多页获取。

对于翻页爬取,只需要点击下一页,查看url地址的变化,找到其对应的变化规律即可。

在这里插入图片描述

page就是对应的页码,所以翻页爬取也搞定了,接下来就是写代码就好了

1、请求网页获取音乐的ID值以及标题

cookie 我就不带了,你可以自己登陆咪咕音乐之后复制开发者工具里面的

ef get_mp3_info(url):

headers = {

‘cookie’: ‘’,

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’

}

response = requests.get(url=url, headers=headers)

selector = parsel.Selector(response.text)

lis = selector.css(‘#J_PageSonglist > div.songlist-body > div’)

for li in lis:

page_url = li.css(‘.song-name-txt::attr(href)’).get()

mp3_id = page_url.split(‘/’)[-1]

title = li.css(‘.song-name-txt::attr(title)’).get()

2、post请求获取音乐下载地址

这里 headers 参数可以不用写这么多,为了方便就直接复制粘贴了,因为是post请求,有一些参数是必要带的,不然得到想要的返回结果。

def get_mp3_url(mp3_id, title):

url = ‘https://music.migu.cn/v3/api/order/download’

headers = {

‘authority’: ‘music.migu.cn’,

‘method’: ‘POST’,

‘path’: ‘/v3/api/order/download’,

‘scheme’: ‘https’,

‘accept’: ‘/’,

‘accept-encoding’: ‘gzip, deflate, br’,

‘accept-language’: ‘zh-CN,zh;q=0.9’,

‘cache-control’: ‘no-cache’,

‘content-length’: ‘42’,

‘content-type’: ‘application/x-www-form-urlencoded; charset=UTF-8’,

‘cookie’: ‘’,

‘origin’: ‘https://music.migu.cn’,

‘pragma’: ‘no-cache’,

‘referer’: ‘https://music.migu.cn/v3/music/order/download/60054701923’,

‘sec-fetch-dest’: ‘empty’,

‘sec-fetch-mode’: ‘cors’,

‘sec-fetch-site’: ‘same-origin’,

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,

‘x-requested-with’: ‘XMLHttpRequest’,

}

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

img
img

二、Python必备开发工具

工具都帮大家整理好了,安装就可直接上手!img

三、最新Python学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。

img

四、Python视频合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

img

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。img

六、面试宝典

在这里插入图片描述

在这里插入图片描述

简历模板在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 19
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值