如何用Matlab一键下载B站高清视频(下)

如何用Matlab一键下载B站高清视频(下)

0 前言

N久以前分享了Matlab中利用现成的B站视频解析网站 贝贝bilibili-B站视频下载 来爬取视频,还没看到这个分享的朋友,可以戳下方的推文链接

推文链接: 如何用Matlab一键下载B站高清视频(上)

  • 利用模拟鼠标键盘的方法有一定的局限性,即不能干涉程序与当前交互的浏览器界面

  • 利用MatlabIE浏览器交互的方法只能适用于windows系统上,linux等系统并不适用;再一个问题是Matlab创建IE服务器对象时可能会报如下报错:

对于这个问题,目前解决的方法之一是需要重置Internet Explorer:在Internet选项中的高级选项卡中选择 Internet Explorer重置设置,然后重启电脑,无脑般地就可以用了。

当然有的电脑按照上面的设置后依然会报错,具体原因未知,目前我还没有找到其他解决的方法,不知道大家有没有好的解决方案呢?

接下来…

惨不忍睹的大型翻车现场:

限制反爬,添加了验证码!一个好的解析网站就该这样。只不过对于投机取巧的程序而言只能…

鉴于前面的两种方法都不太令人满意,何止是不太满意,根本是无法满意!那今天我们就介绍一种更常规的方法,利用API提供的接口,只需发送一个合理的请求就能得到b站视频的下载链接。

截止目前,网络上有很多爬取B站视频的帖子,大多数是利用Python的,有少部分是利用Matlab的。那为何我们还要再分一杯羹呢?原因有二:

  1. 此处的目的是学习和分享如何利用MATLAB爬取B站视频
  2. 已有的MATLAB爬取得到的B站视频是非1080P的,并且只针对单P视频

这篇推文主要的参考资料是:https://github.com/5ime/bilidown一款开源的基于Python的爬取B站视频工具,我们参考的B站视频API接口就来源于此。

另外,已有方法《MATLAB爬虫程序,批量获取文本、图片和视频(中)》《MATLAB爬虫程序,批量获取文本、图片和视频(下)》爬取下来的B站视频是非1080P的,下面是我们的方法和该方法下载同一视频的信息比较:(源视频地址:https://www.bilibili.com/video/BV11f4y1r7e8)

已有方法我们的方法

当然,我们的主要需求是下载多P视频,这就迫使我们得造这个轮子了!友情提示:不到万不得已,不要造轮子!

下面就让我们一起看看造轮子的过程吧!

1 API接口

要想下载b站上某个UP主的视频,那首先得进入到他/她的空间里,我们以"尚硅谷" 为例,其空间地址是 https://space.bilibili.com/302417610/video,其中的数字编号 302417610 是每一个UP主独一无二的,称为**mid**号

在下载视频时往往需要两个重要的参数:bvidcidbvid(bv号)我们在 如何用Matlab一键下载B站高清视频(上)

中已经见过,即单个视频或者多p视频都对应着一个**bvid,而对于多p视频则有不同的cid号来决定具体的视频地址,当然单个视频仅有一个cid**号。

下面说明通过UP主的**mid号来得到bvid**

简单抓一次包吧,我们再谷歌浏览器中输入空间地址,按F12后,查看Network选项卡,仔细看看每一个响应,最后会定位到下面的信息:

我们将响应的URL用新的窗口打开就会得到我们需要的**bvid**号的重要信息了:

总结一下

指定up主的空间信息接口:

https://api.bilibili.com/x/space/arc/search?mid=指定UP主的独一无二的编号&ps=30&tid=0&pn=UP主空间的页码总数

有了**midpn这两个参数就可以查询cid号了, 因为cid**不会在正常访问时查看到,于是也需要调用特定接口来获取:

https://api.bilibili.com/x/web-interface/view

接口使用很简单,只有一个参数:aid(av号)或 bvid(bv号)二选一

例如:

https://api.bilibili.com/x/web-interface/view?bvid=BV1XJ411X7Ud

通过上面的接口,我们就能获得**cid**

有了**midcid**参数,我们就可以构建playurl接口请求了:

https://api.bilibili.com/x/player/playurl?bvid=bv号&cid=cid号&qn=80&otype=json

其中,参数qn表示视频的质量,值设定为80可以获得高清1080p的视频,但需要注意的是我们请求时得提供cookie

否则下载的视频是480p的非高清

**注意:**已有方法中提供的playurl接口为

https://api.bilibili.com/x/player/playurl?bvid=bv号&cid=cid号&qn=120&fourk=1

这两个接口在结尾处有一定的区别,大家可以都尝试做一做。

2 实现过程

接下来还是聊下代码实现吧,这个是根据我的需求来写的:

  • 下载UP主所有发布的视频(这类UP一般是没有多p视频的,如罗翔说刑法
  • 下载UP主的某个教学视频(这类UP一般是有多p视频的,如尚硅谷Web前端HTML5&CSS3初学者零基础入门全套完整版

bilibiliVideoMain.m — 脚本入口

setWebOptions.m — 设置请求头函数

bilibiliVideoInfo.m — 由bv或者av号获取cid号的功能实现

getSinglePageVideo.m — 实现下载单p视频

getMultiPageVideo.m — 实现下载多p视频

对于**setWebOptions.m**函数,源码如下:

function options = setWebOptions(cookie)
randNum = randperm(23);
randNum(randNum>=10);
options = weboptions('Timeout', randNum(1));
options.UserAgent = ...
    'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36';
options.RequestMethod = 'get';
options.HeaderFields = {'Cookie', cookie; 'Origin', 'https://www.bilibili.com'; ...
    'accept', 'application/json'; ...
    'accept-encoding', 'gzip, deflate, br'; ...
    'accept-language', 'en-US,en;q=0.8'; ...
    'content-type', 'application/json'; ...
    'Referer', 'https://www.bilibili.com'};
end  % end functions

需要传入cookie参数,获取的方法也很简单,祖传方法===>首先登陆B站,然后按键F12刷新,在请求头中找到cookie,如下图,然后把那划红线的一坨东西粘贴过来即可。

bilibiliVideoInfo.m

function mainInfo = bilibiliVideoInfo(mid, numberOfPage)
%bilibiliVideoInfo  return some main data fou user from bilibili.com
%  Inputs:
%        mid string (mid = '517327498';)
%        numberOfPage int (numberOfPage = 1|2|3|, ..., |n-1|n);        
%  Outputs:
%        mainInfo struct (mainInfo.title|mainInfo.facePic|mainInfo.bvid)
%  Usage:
%        >>mainInfo = bilibiliVideoInfo('517327498', 5);
%          mainInfo = 
%          title: {143×1 cell}
%          facePic: {143×1 cell}
%          bvid: {143×1 cell}
%
% -------------------------------------------
%  Set request options
% -------------------------------------------
randNum = randperm(23);
randNum(randNum>=10);
options = weboptions('Timeout', randNum(1));
options.UserAgent = ...
    'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36';
options.RequestMethod = 'get';

% -------------------------------------------
%  Set crawl mainly data
% -------------------------------------------
mainInfo.title = [];
mainInfo.facePic = [];
mainInfo.bvid = [];

for page = 1 : numberOfPage
    disp(['  | Climbing to the ', num2str(page), 'th page']);
    pause(0.2)
    % API
    dataUrl = ['https://api.bilibili.com/x/space/arc/search?', 'mid=', mid, '&ps=30&tid=0&pn=', num2str(page)];
    res = webread(dataUrl, options);
    allInfo = res.data.list.vlist;
    mainInfo.title = [mainInfo.title; {allInfo.title}'];
    mainInfo.facePic = [mainInfo.facePic; {allInfo.pic}'];
    mainInfo.bvid = [mainInfo.bvid; {allInfo.bvid}'];
end  % end for

% mainInfo.facePic = regexprep(mainInfo.facePic, '//(.+?)', 'http://$1');
disp('  ')
end  % end function

getSinglePageVideo.m

function getSinglePageVideo(mid, numberOfPage, numberOfVideoStart, saveDir, cookie)
%getSingleVideo   Get a single page video
%   Inputs:
%        mid string (mid = '517327498';)
%        numberOfPage int (numberOfPage = 1|2|3|, ..., |n-1|n);   
%        numberOfVideoStart int ---Video starting number
%        saveDir string
%        cookie string
%   Outputs:
%        none
%
%% Set request options
options = setWebOptions(cookie);

%% Set parameters
apiUrl = 'https://api.bilibili.com/x/player/playurl?';

%%
if ~exist(saveDir, 'dir')
    mkdir(saveDir);
end

if ~exist([saveDir, '/facepics'], 'dir')
    mkdir([saveDir, '/facepics']);
end
%% Get video's url by cid and bvd number
mainInfo = bilibiliVideoInfo(mid, numberOfPage);
numberOfBvid = length(mainInfo.bvid);

% 
pat = '(?:\|)|(?:\\)|(?:\:)|(?:\*)|(?:\?)|(?:")|(?:<)|(?:>)|(?:/)';

for ii = numberOfVideoStart : numberOfBvid
    bvid = mainInfo.bvid{ii};
    title = regexprep(mainInfo.title{ii}, pat, '_');
    res = webread(['https://api.bilibili.com/x/web-interface/view?bvid=', bvid]);
    % Get cid number
    cid = num2str(res.data.pages.cid);
    res = webread([apiUrl, 'bvid=', bvid, '&cid=', cid, '&qn=80&otype=json']);
    % Get player url
    playUrl = res.data.durl.url;
    % Save face pictures
    disp(['  |-->Saving ', num2str(ii), 'th|', num2str(numberOfBvid), ' picture']);
    faceImg = imread(mainInfo.facePic{ii});
    imwrite(faceImg, [saveDir, '/facepics/', num2str(ii), '_', title, '.png']);
    % Save video
    disp(['  |-->Saving ', num2str(ii), 'th|', num2str(numberOfBvid), ' video']);
    websave([saveDir, '/', num2str(ii), '_', title, '.mp4'], playUrl, options);
    disp('   ------Save finished!----------')
    disp('                                 ')
end  % end for
end  % end function

鉴于篇幅原因,**getMultiPageVideo.m**的源代码在这里就不展示了,想要获得获得文中所有代码的朋友门,请在公众号后台回复:bilibili视频(下) (注:和 **bilibli视频(上)**有区别,抱歉,这里b后面少了个i,纠正一下)

需要说明的一点是:对于以标题作为视频名称保存需要注意文件名是否合法的问题,因此代码中用正则表达式pat = '(?:\|)|(?:\\)|(?:\:)|(?:\*)|(?:\?)|(?:")|(?:<)|(?:>)|(?:/)';title = regexprep(mainInfo.title{ii}, pat, '_'); 将标题进行了过滤。

最后调用脚本**bilibiliVideoMain.m**源码如下:

% ------------------------------------------------
%  Main script for obtain video from bilibili
% ------------------------------------------------
clear
clc
close all

isSendMail = true;
cookie = ' ';  % 需要将cookie粘贴到这里

% ------------------------------------------------
%  Obtain single page video
% ------------------------------------------------
mid = ' '; 
numberOfPage = [];
numberOfVideoStart = [];
saveDir = '保存视频的文件夹名称';
getSinglePageVideo(mid, numberOfPage, numberOfVideoStart, saveDir, cookie);

% ------------------------------------------------
%  Obtain  multi-page video
% ------------------------------------------------
bvid = 'BV1Cy4y117vt';
numberOfVideoStart = 1;
saveDir = 'shangguigu_zidingyi';
getMultiPageVideo(bvid, numberOfVideoStart, saveDir, cookie);

通过这种方法我爬取了一部分罗老师说刑法的视频,也爬取了有关尚硅谷的前端教学视频

罗老师说刑法部分视频尚硅谷微信小程序部分视频

整个过程最让我受益的是爬取下来的这些视频,看了其中一部分,特别是罗老师说刑法,除了罗老师的讲课有趣味,更重要的是让人增加一些法律、刑法方面的知识,知法懂法才能更好的做一个守法的合格公民嘛

感兴趣的朋友们可以拿到代码后亲自运行下载视频对照一下,用这种方法下载的视频原格式是flv1080p的,这与 贝贝bilibili-B站视频下载 网站解析出来的.mp4格式的1080p稍微有些区别,比如文件大小,但视频质量上两者差别不大。

今天的分享就到这里了,有问题请朋友们后台发消息留言,祝大家生活愉快!

参考文献

https://github.com/5ime/bilidown

https://mp.weixin.qq.com/s/3EaVntbM07J6PpLScYnb5w

https://mp.weixin.qq.com/s/SIYlNO3ZR82VF1D4nYzIgQ

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MATLAB在线视频下载链接17个-video_of_matlab.txt 本帖最后由 天天向尚磊 于 2013-11-25 15:31 编辑 累积了一长段时间,现提供以下内容: MATLAB 视频在线链接和下载链接。以链接形式给出,需要请自行。 附件内容: 1、pdf 版 (方便查看)  2、生成 pdf 的 latex 源文件(方便复制链接) 3、分享一个 swf 和 flv 视频播放小软件 内容备注: pdf 中标记为粉红色的内容,是我觉得比较基础的,同时又比较普遍实用的。 最后: 不提直接供资源,并且不作为商业用途,不算触犯版权什么的吧。。。仅仅为了方便大家学习。 看官方视频,感觉讲的比较系统,也比较靠谱。 (备注:准确的说,没有 17 个,应该是 16 个,有一个只有在线链接。) let's begin :) 0.1 MATLAB 并行计算:数据处理与算法开发实际应用 . . . . . . . . 2 0.2 MATLAB 应用发布(中文) . . . . . . . . . . . . . . . . . . . . . 2 0.3 MATLAB 高级编程之性能加速:从代码优化到并行计算 . . . . . 2 0.4 MATLAB 数学建模与数学实践课程 . . . . . . . . . . . . . . . . . 2 0.5 MATLAB 数学实验教学应用与数学建模实践 . . . . . . . . . . . . 2 0.6 MATLAB 语言在最优控制器设计中的应用 . . . . . . . . . . . . . 2 0.7 Simulink 快速入门 . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0.8 计算统计学:MATLAB 统计分类初步 . . . . . . . . . . . . . . . . 3 0.9 使用 MATLAB Coder 从 MATLAB 生成 C/C 代码 . . . . . . . . 3 0.10 使用 MATLAB 加速 C/C 算法开发 . . . . . . . . . . . . . . . . 3 0.11 使用统计与曲线拟合工具箱进行数据分析 . . . . . . . . . . . . . 3 0.12 MATLAB 大规模数据处理技巧 . . . . . . . . . . . . . . . . . . . . 3 0.13 用 MATLAB 进行实时 DSP 系统的算法设计和原型生成 . . . . . . 4 0.14 MATLAB Unit Testing Framework . . . . . . . . . . . . . . . . . . . 4 0.15 使用 MATLAB Coder 从 MATLAB 生成 C/C 代码 . . . . . . . . 4 0.16 使用 MATLAB 和 Simulink 让控制系统的开发更轻松 . . . . . . . 4 0.17 MATLAB 和 C/C :信号处理软件开发的完美组合 . . . . . . . . 4 补充内容 : 已下载的部分视频(百度云) 链接:http://pan.baidu.com/s/1kTC13ON 密码:lg6l
MATLAB在线视频下载链接17个-FLVplayr.zip 本帖最后由 天天向尚磊 于 2013-11-25 15:31 编辑 累积了一长段时间,现提供以下内容: MATLAB 视频在线链接和下载链接。以链接形式给出,需要请自行。 附件内容: 1、pdf 版 (方便查看)  2、生成 pdf 的 latex 源文件(方便复制链接) 3、分享一个 swf 和 flv 视频播放小软件 内容备注: pdf 中标记为粉红色的内容,是我觉得比较基础的,同时又比较普遍实用的。 最后: 不提直接供资源,并且不作为商业用途,不算触犯版权什么的吧。。。仅仅为了方便大家学习。 看官方视频,感觉讲的比较系统,也比较靠谱。 (备注:准确的说,没有 17 个,应该是 16 个,有一个只有在线链接。) let's begin :) 0.1 MATLAB 并行计算:数据处理与算法开发实际应用 . . . . . . . . 2 0.2 MATLAB 应用发布(中文) . . . . . . . . . . . . . . . . . . . . . 2 0.3 MATLAB 高级编程之性能加速:从代码优化到并行计算 . . . . . 2 0.4 MATLAB 数学建模与数学实践课程 . . . . . . . . . . . . . . . . . 2 0.5 MATLAB 数学实验教学应用与数学建模实践 . . . . . . . . . . . . 2 0.6 MATLAB 语言在最优控制器设计中的应用 . . . . . . . . . . . . . 2 0.7 Simulink 快速入门 . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 0.8 计算统计学:MATLAB 统计分类初步 . . . . . . . . . . . . . . . . 3 0.9 使用 MATLAB Coder 从 MATLAB 生成 C/C 代码 . . . . . . . . 3 0.10 使用 MATLAB 加速 C/C 算法开发 . . . . . . . . . . . . . . . . 3 0.11 使用统计与曲线拟合工具箱进行数据分析 . . . . . . . . . . . . . 3 0.12 MATLAB 大规模数据处理技巧 . . . . . . . . . . . . . . . . . . . . 3 0.13 用 MATLAB 进行实时 DSP 系统的算法设计和原型生成 . . . . . . 4 0.14 MATLAB Unit Testing Framework . . . . . . . . . . . . . . . . . . . 4 0.15 使用 MATLAB Coder 从 MATLAB 生成 C/C 代码 . . . . . . . . 4 0.16 使用 MATLAB 和 Simulink 让控制系统的开发更轻松 . . . . . . . 4 0.17 MATLAB 和 C/C :信号处理软件开发的完美组合 . . . . . . . . 4 补充内容 : 已下载的部分视频(百度云) 链接:http://pan.baidu.com/s/1kTC13ON 密码:lg6l

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值