Python爬虫实战，Request+urllib模块，批量下载爬取飙歌榜所有音乐文件

agi大模型

已于 2024-01-06 11:41:47 修改

阅读量2.8k

点赞数

分类专栏： python基础文章标签： python 爬虫开发语言 Python教程职场和发展

于 2022-12-20 16:00:00 首次发布

本文链接：https://blog.csdn.net/weixin_49892805/article/details/128375760

版权

python基础专栏收录该内容

104 篇文章 1 订阅

订阅专栏

本文介绍了如何使用Python爬取音乐飙升榜的数据，并将其保存到本地。通过设置请求头伪装成浏览器，配合代理IP和随机更换请求头避免被识别为爬虫。还分享了分析网页、提升爬取速度的方法，如禁用图片和JavaScript。最后，给出了完整的Python代码示例，包括文件夹创建、URL获取、正则表达式解析、音乐下载等步骤。附带了Python学习资源和实战案例链接。

摘要由CSDN通过智能技术生成

先看效果展示

在这里插入图片描述

前言

今天给大家介绍的是Python爬取飙歌榜所有音频数据并保存本地，在这里给需要的小伙伴们代码，并且给出一点小心得。

首先是爬取之前应该尽可能伪装成浏览器而不被识别出来是爬虫，基本的是加请求头，但是这样的纯文

本数据爬取的人会很多，所以我们需要考虑更换代理IP和随机更换请求头的方式来对音乐数据进行爬取。

在每次进行爬虫代码的编写之前，我们的第一步也是最重要的一步就是分析我们的网页。

通过分析我们发现在爬取过程中速度比较慢，所以我们还可以通过禁用谷歌浏览器图片、JavaScript等方式提升爬虫爬取速度。

开发工具

Python版本： 3.8

环境搭建

安装Python并添加到环境变量，pip安装需要的相关模块即可。

思路分析

浏览器中打开我们要爬取的页面
按F12进入开发者工具，查看我们想要的音乐数据在哪里
这里我们需要页面数据就可以了

在这里插入图片描述

代码实现

# 存放音乐文件的文件夹
folder = r'F:\music'
if not isdir(folder):
    mkdir(folder)

# 音乐飙升榜地址
url = 'https://music.163.com/discover/toplist?id=3779629'
# 模拟Chrome浏览器
headers = {'User-Agent': 'Chrome/88.0.4324.190'}
req = Request(url, headers=headers)
# 读取网页源代码
with urlopen(req) as fp:
    content = fp.read().decode()

# 正则表达式，提取音乐id和名字
pattern = r'<li><a href="/song\?id=(.+?)">(.+?)</a></li>'
for music_id, music_name in findall(pattern, content):
    music_file = rf'{folder}\{music_name}.mp3'
    if isfile(music_file):
        print(f'文件已存在，跳过...{music_name}')
        continue
    # 下载地址
    download_url = rf'https://music.163.com/song/media/outer/url?id={music_id}'
    req = Request(download_url, headers=headers)
    # 读取网络音乐文件数据，写入本地文件
    with urlopen(req) as fp:
        content = fp.read()
    with open(music_file, 'wb') as fp:
        fp.write(content)
    print(f'下载完成...{music_name}')