我用Python抓取了【S11全球总决赛】直播评论，EDG nb

---

• 常见请求头的反爬

• json数据的处理

• csv文件处理

项目思路解析

---

找到你需要采集的视频地址（EDG牛逼！！！！）

网址：【S11全球总决赛】决赛 11月6日 EDG vs DK_哔哩哔哩bilibili_英雄联盟

爬虫采集数据首先要找到对应的数据目标地址，可以明显看出当前的网页的评论数据是在不断变化的，需要找到对应的评论接口，习惯性的去找动态数据。

数据并没有在动态数据里，清空数据加载新的评论数据，触发加载条件。

加载的数据在all里，明确数据之后就好处理了，获取到对应的网页接口，通过requests发送网络请求。

url = ‘https://api.bilibili.com/x/v2/reply/main?jsonp=jsonp&next={}&type=1&oid=891511588&mode=3&plat=1&_=1636272184444’.format(i)

​

response = requests.get(url)

print(response.text)

数据请求失败请求头没有做反爬策略 添加对应的ua，以及refere 主要是防盗链的请求头措施，在浏览器请求也是得不到数据的，获取到准确的数据，提取自己想要的数据信息。

• 评论的内容

• 评论的时间

• 评论的作者

• 作者的性别

• 作者的个性签名

• （各位大佬可以根据自己的需求进行自动的采集数据）

处理json数据时要注意， json数据前有jQuery1720892078778784086_1627994582044 可以通过正则的方式进行匹配提取 这里我选择修改url的参数 讲网址的jQuery1720892078778784086_1627994582044进行删除 最终的网址是：

https://api.bilibili.com/x/v2/reply/main?jsonp=jsonp&next={}&type=1&oid=891511588&mode=3&plat=1&_=1636272184444

获取到数据后进行数据保存，数据保存在csv文件。

def save_data(item):

with open(‘小破站1.csv’, “a”, newline=‘’, encoding=“utf-8”)as f:

filename = [‘content’, ‘ctime’, ‘sex’, ‘uname’, ‘sign’]

csv_data = csv.DictWriter(f, fieldnames=filename)

csv_data.writerow(item)

​

简易源码分享

---

import requests

import csv

​

def save_data(item):

with open(‘EDG牛逼!.csv’, ‘a’, newline=‘’, encoding=‘utf-8’)as f:

​

filename = [‘content’, ‘uname’, ‘sign’, ‘sex’]

csv_data = csv.DictWriter(f, fieldnames=filename)

csv_data.writeheader()

csv_data.writerow(item)

​

​

​

def get_data(url):

​

headers = {

‘referer’: ‘https://www.bilibili.com/bangumi/play/ss5852/?from=search&seid=6248919601957945511’,
学好 Python 不论是就业还是做副业赚钱都不错，但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

五、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！