PS:如有需要 Python学习资料
以及 解答
的小伙伴可以加点击下方链接自行获取
-
Python 3.6
-
Pycharm
-
requests
-
re
安装Python并添加到环境变量,pip安装需要的相关模块即可。
找一个弹幕比较多的视频爬取
以前的B站弹幕视频,点击查看历史的弹幕,会给你返回一个json数据,包含了所有的弹幕内容。
现在点击历史弹幕数据,同样是有数据加载出来,但是里面的都是乱码了。
请求这个链接还是会得到想要的数据内容。
只需要使用正则表达匹配中文字符就可以匹配出来
弹幕分页是根据日期来的,当点击 2021-01-01
的使用,返回的给我的数据并不是弹幕数据,而是所有的日期。
那么看到这里有人就会问了,那我想要爬取 2021-01-01
的弹幕数据怎么办?
这两个的url地址是不一样的,seg.so
才是弹幕数据url地址。
import requests
import re
def get_response(html_url):
headers = {
‘cookie’: ‘你自己的cookie’,
‘origin’: ‘https://www.bilibili.com’,
‘referer’: ‘https://www.bilibili.com/video/BV19E41197Kc’,
‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,
}
response = requests.get(url=html_url, headers=headers)
return response
def get_date(html_url):
response = get_response(html_url)
json_data = response.json()
date = json_data[‘data’]
print(date)
return date
if name == ‘main’:
one_url = ‘https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01’
get_date(one_url)
返回的数据是json数据,根据字典键值对取值就可以得到相关数据。
def main(html_url):
data = get_date(html_url)
for date in data:
url = f’https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}’
html_data = get_response(url).text
result = re.findall(“.?([\u4E00-\u9FA5]+).?”, html_data)
for i in result:
with open(‘B站弹幕.txt’, mode=‘a’, encoding=‘utf-8’) as f:
f.write(i)
f.write(‘\n’)
文末有福利领取哦~
👉一、Python所有方向的学习路线
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉二、Python必备开发工具
👉三、Python视频合集
观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉 四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。(文末领读者福利)
👉五、Python练习题
检查学习结果。
👉六、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
👉因篇幅有限,仅展示部分资料,这份完整版的Python全套学习资料已经上传
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!