2024年最新Python程序员面试题,Python爬虫入门教程05:B站视频弹幕的爬取,2024Python常见面试题分享

收集整理了一份《2024年最新Python全套学习资料》免费送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img



既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,涵盖了95%以上Python知识点,真正体系化!

由于文件比较多,这里只是将部分目录截图出来

如果你需要这些资料,可以添加V无偿获取:hxbc188 (备注666)
img

正文

在这里插入图片描述

请求这个链接还是会得到想要的数据内容。

在这里插入图片描述

只需要使用正则表达匹配中文字符就可以匹配出来

三、💥解析数据并多页爬取


弹幕分页是根据日期来的,当点击 2021-01-01 的使用,返回的给我的数据并不是弹幕数据,而是所有的日期。

在这里插入图片描述

那么看到这里有人就会问了,那我想要爬取 2021-01-01 的弹幕数据怎么办?

在这里插入图片描述

这两个的url地址是不一样的,seg.so 才是弹幕数据url地址。

import requests

import re

def get_response(html_url):

headers = {

‘cookie’: ‘你自己的cookie’,

‘origin’: ‘https://www.bilibili.com’,

‘referer’: ‘https://www.bilibili.com/video/BV19E41197Kc’,

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,

}

response = requests.get(url=html_url, headers=headers)

return response

def get_date(html_url):

response = get_response(html_url)

json_data = response.json()

date = json_data[‘data’]

print(date)

return date

if name == ‘main’:

one_url = ‘https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01’

get_date(one_url)

返回的数据是json数据,根据字典键值对取值就可以得到相关数据。

在这里插入图片描述

四、💥保存数据(数据持久化)


def main(html_url):

data = get_date(html_url)

for date in data:

url = f’https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}’

html_data = get_response(url).text

result = re.findall(“.?([\u4E00-\u9FA5]+).?”, html_data)

for i in result:

with open(‘B站弹幕.txt’, mode=‘a’, encoding=‘utf-8’) as f:

f.write(i)

f.write(‘\n’)

在这里插入图片描述

五、💥完整代码


import requests

import re

def get_response(html_url):

headers = {

‘cookie’: ‘你自己的cookie’,

‘origin’: ‘https://www.bilibili.com’,

‘referer’: ‘https://www.bilibili.com/video/BV19E41197Kc’,

‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36’,

}

response = requests.get(url=html_url, headers=headers)

return response

def get_date(html_url):

response = get_response(html_url)

json_data = response.json()

date = json_data[‘data’]

print(date)

return date

def save(content):

for i in content:

with open(‘B站弹幕.txt’, mode=‘a’, encoding=‘utf-8’) as f:

f.write(i)

f.write(‘\n’)

print(i)

def main(html_url):

data = get_date(html_url)

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

img
img

二、Python必备开发工具

工具都帮大家整理好了,安装就可直接上手!img

三、最新Python学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。

img

四、Python视频合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

img

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。img

六、面试宝典

在这里插入图片描述

在这里插入图片描述

简历模板在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

如果你需要这些资料,可以添加V无偿获取:hxbc188 (备注666)
img

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

如果你需要这些资料,可以添加V无偿获取:hxbc188 (备注666)
[外链图片转存中…(img-yHC9y5j4-1713846075184)]

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 11
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值