-
Python 3.6
-
Pycharm
import os
import concurrent.futures
import requests
import parsel
安装Python并添加到环境变量,pip安装需要的相关模块即可。
虽然上面显示需要付费下载,但是一样可以免费下载。
打开开发者工具,点击播放音频,在Media中会加载出音频的url地址。
如果想要验证这个链接是否是音频的真实下载地址,可以复制链接粘贴到新的窗口中。
它会自动下载一个音频文件。并且这个音频文件是可以播放的,和网页上面的音频声音是可以对上的。
事实证明这个就是我们要获取音频地址。
https://downsc.chinaz.net/Files/DownLoad/sound1/202102/s830.mp3
老思路了,复制链接中的某些参数在开发者工具中进行搜索,很明显 s830
就是音频的ID了。
搜索 s830 找到来源,发现网页页面中自带有下载地址。获取音频下载地址之后需要自己拼接url。
网页数据不复杂,相对而言还是比较简单的。
1、请求当前网页数据,获取音频地址以及音频标题
2、保存下载就可以了
获取音频ID以及音频标题
def main(html_url):
html_data = get_response(html_url).text
selector = parsel.Selector(html_data)
lis = selector.css(‘#AudioList .container .audio-item’)
for li in lis:
name = li.css(‘.name::text’).get().strip()
src = li.css(‘audio::attr(src)’).get()
audio_url = ‘https:’ + src
save(name, audio_url)
print(name, audio_url)
保存数据
def save(name, audio_url):
header = {
‘Upgrade-Insecure-Requests’: ‘1’,
‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’
}
audio_content = requests.get(url=audio_url, headers=header).content
path = ‘audio\’
if not os.path.exists(path):
os.mkdir(path)
with open(path + name + ‘.mp3’, mode=‘wb’) as f:
f.write(audio_content)
这里想要重新给一个headers参数,不然会下载不了。代码会一直运行,但是没有反应
多线程爬取
if name == ‘main’:
executor = concurrent.futures.ThreadPoolExecutor(max_workers=5)
for page in range(1, 31):
url = f’https://sc.chinaz.com/yinxiao/index_{page}.html’
main(url)
executor.submit(main, url)
感谢每一个认真阅读我文章的人,看着粉丝一路的上涨和关注,礼尚往来总是要有的:
① 2000多本Python电子书(主流和经典的书籍应该都有了)
② Python标准库资料(最全中文版)
③ 项目源码(四五十个有趣且经典的练手项目及源码)
④ Python基础入门、爬虫、web开发、大数据分析方面的视频(适合小白学习)
⑤ Python学习路线图(告别不入流的学习)