FFmpeg支持QUIC

1 背景

QUIC也就是HTTP3,是Google为了解决HTTP2的一些问题提出的基于UDP的传输方案。HTTP2由于队头堵塞、握手延迟等缺陷并没有普及,相反由于QUIC的优势,Youtube已经全面使用了QUIC。现在去看Youtube的视频,对一个HTTP1/2的请求,Youtube返回的HTTP1/2响应中会携带一个支持QUIC协议的头,Chrome缓存该头中携带的地址,下次对该地址的请求会以QUIC协议发出,之后跟该服务的数据交互将以基于UDP的QUIC协议进行。

QUIC的主要优点是减少握手延迟(号称0RTT)、出色的流控(BBR、CUBIC)、多路复用等,已经成为事实上的下一代HTTP标准。但是目前该标准在实现上有两个版本,一个是IETF的版本,一个是Google自己的版本,这两者目前并不互通。

本文介绍了基于Google的QUIC协议封装的bequic库,并集成到FFmpeg中,让FFmpeg可以通过QUIC协议播放视频。目前已经支持Caddy(quic-go)等服务。

2 代码地址

bequic:

https://github.com/sonysuqin/BeQuic

FFmpeg:
https://github.com/sonysuqin/FFmpeg

3 方案

bequic库封装了Google Chromium Quiche库,对外提供C的接口,因此需要完整下载chromium项目代码用于编译。对FFmpeg,需要增加一个quic协议,主要用于调用bequic库。

3.1 bequic - Google Quiche封装

增加一个Chromium的动态库工程,修改chromium/src/net/BUILD.gn(在BeQuic代码的patch目录下)

+  shared_library("libbequic") {
+    sources = [
+      "tools/quic/basic_streambuf.hpp",
+      "tools/quic/basic_streambuf_fwd.hpp",
+      "tools/quic/be_quic_define.h",
+      "tools/quic/be_quic.h",
+      "tools/quic/be_quic.cc",
+      "tools/quic/be_quic_client.h",
+      "tools/quic/be_quic_client.cc",
+      "tools/quic/be_quic_client_manager.h",
+      "tools/quic/be_quic_client_manager.cc",
+      "tools/quic/be_quic_fake_proof_verifier.h",
+      "tools/quic/be_quic_fake_proof_verifier.cc",
+      "tools/quic/be_quic_spdy_client.h",
+      "tools/quic/be_quic_spdy_client.cc",
+      "tools/quic/be_quic_spdy_client_session.h",
+      "tools/quic/be_quic_spdy_client_session.cc",
+      "tools/quic/be_quic_spdy_client_stream.h",
+      "tools/quic/be_quic_spdy_client_stream.cc",
+      "tools/quic/buffer.hpp",
+      "tools/quic/streambuf.hpp",
+    ]
+    deps = [
+      ":net",
+      ":simple_quic_tools",
+      "//base",
+      "//build/win:default_exe_manifest",
+      "//url",
+    ]
+    defines = [ "BE_QUIC_EXPORTS", "BE_QUIC_SHARED_LIBRARY" ]
+  }

添加的文件就是bequic库的实现文件(在BeQuic代码的src/chromium目录下),主要实现了以下接口:

  • be_quic_open:建立一个QUIC会话,并打开一个流;
  • be_quic_close:关闭QUIC会话,关闭所有流;
  • be_quic_read:读QUIC会话当前流的数据;
  • be_quic_seek:Seek到文件指定位置,可能会打开一个新的流。

对seek来说,传统HTTP使用的是带Range头的请求,而Youtube目前并没有使用这个头,而是在URL中携带range参数:http://xx.com/xx.html?……&range=1024-2048&……

对BoringSSL与OpenSSL可能的符号冲突,参考这个链接:https://boringssl.googlesource.com/boringssl/+/HEAD/INCORPORATING.md,需要编译成动态库并隐藏符号。

3.2 FFmpeg - 增加quic协议

这里在FFmpeg4.1分支上创建了一个4.1.quic分支,可以在https://github.com/sonysuqin/FFmpeg上查看基于该分支的修改,主要是修改了configure、Makefile,并在libavformat下增加了bequic.c,用于调用bequic库。

在Windows下,FFMpeg使用MSYS2+MINGW32+GCC编译,chromium使用clang-cl编译,两者的符号不一致,需要使用dlltool等工具对chromium项目编译出的bequic库进行处理,得到GCC可以链接的库。

4 编译

4.1 Windows

4.1.1 编译环境

软件版本
Windows10
MSYS2 + MINGW最新版,还要安装GCC等工具
Chromium最新版,版本号4c428bdc69a2c16fdb0c5576e4098373bd6cc4e3
FFMpeg4.1

4.1.2 目录结构

确保目录结构如下:

quic
|-- BeQuic
|-- chromium
`-- FFmpeg

4.1.3 编译bequic

4.1.3.1 下载bequic源码

在quic目录下,执行:

git clone https://github.com/sonysuqin/BeQuic.git

4.1.3.2 下载chromium源码

在quic目录下,按照chromium的官方编译文档,下载chromium代码(需要一个比较好的VPN)。

4.1.3.3 打bequic补丁

使用MSYS2进入BeQuic/patch目录下,执行

./patch.sh

该脚本的作用:

  • 把BeQuic/patch/BUILD.gn拷贝到chromium/src/net目录下;
  • 把BeQuic/src/chromium下的文件拷贝到chromium/src/net/tools/quic目录下;

补丁并不修改chromium的源代码。

4.1.3.4 生成工程

在chromium/src下执行:

gn gen out/Debug--args="is_debug=true is_component_build=false target_cpu=\"x86\""

这里可以决定是产生Debug版还是Release版。

4.1.3.5 编译 bequic库

在chromium/src下执行:

ninja -C out\Debug libbequic

4.1.3.6 编译quic_server - 用于测试

在chromium/src下执行:

ninja -C out\Debug quic_server

4.1.4 编译FFmpeg

4.1.4.1 安装依赖

安装GCC、SDL2等FFmpeg通常需要依赖的工具,主要参考了以下这些网页:
《msys2和SDL2环境搭建》
《windows下编译FFMPEG篇》
《Windows10平台编译ffmpeg 4.0.2,生成ffplay》

4.1.4.2 下载支持bequic的FFmpeg源码

在quic目录下,执行

git clone https://github.com/sonysuqin/FFmpeg-Quic-Cronet.git

4.1.4.3 处理bequic库的符号

将BeQuic/script/gen_a.sh拷贝到chromium/src/out/Debug目录下,执行:

./gen_a.sh

该脚本很简单:

gendef libbequic.dll
dlltool --kill-at -d libbequic.def --dllname libbequic.dll -l libbequic.a

使用gendef产生libbequic.dll的def文件,然后用dlltool产生GCC可以链接的libbequic.a。

4.1.4.4 configure

在FFmpeg目录下,执行:

mkdir build
cd build
../configure --disable-static --enable-shared --enable-gpl --enable-version3 --enable-sdl --enable-debug=3 --disable-optimizations --disable-mmx --disable-stripping --arch=x86 --enable-libbequic --extra-cflags=-I/d/work/google/chromium/src/net/tools/quic --extra-ldflags=-L/d/work/google/chromium/src/out/Debug --extra-libs=-lbequic

注意修改–extra-cflags、–extra-ldflags为实际的bequic库的头文件、库文件的路径。

4.1.4.5 编译

在FFmpeg/build目录下,执行:

make && make install

注意把chromium/src/out/Debug/libbequic.dll拷贝到ffplay运行目录。

4.2 Android

4.2.1 编译环境

软件版本
Ubuntu16.04
NDKr17c
Chromium最新版,版本号e57cf4b40708a719439ad3895279b7de1feb62a8
FFMpeg4.1.quic

4.2.2 目录结构

确保目录结构如下:

quic
|-- BeQuic
|-- chromium
`-- FFmpeg

4.2.3 编译bequic

4.2.3.1 下载bequic源码

在quic目录下,执行:

git clone https://github.com/sonysuqin/BeQuic.git

4.2.3.2 下载chromium源码

在quic目录下,按照chromium的官方编译文档,下载chromium代码(需要一个比较好的VPN)。

4.2.3.3 打bequic补丁

进入BeQuic/patch目录下,执行

mv BUILD.gn BUILD.gn.bak
mv BUILD.gn.Android BUILD.gn
./patch.sh
mv BUILD.gn BUILD.gn.Android
mv BUILD.gn.bak BUILD.gn

目的:

  • 将BeQuic/patch/BUILD.gn.Android覆盖chromium/src/net目录下的BUILD.gn文件;
  • 把BeQuic/src/chromium下的文件拷贝到chromium/src/net/tools/quic目录下;

补丁并不修改chromium的源代码。

4.2.3.4 生成工程

在chromium/src下执行:

gn gen out/Release --args="is_debug=false is_component_build=false target_os=\"android\"  target_cpu=\"arm\""

这里可以决定是产生Debug版还是Release版。

4.2.3.5 编译 bequic库

在chromium/src下执行:

ninja -C out/Release libbequic

4.2.4 编译FFmpeg

4.2.4.1 下载支持bequic的FFmpeg源码

在quic目录下,执行

git clone https://github.com/sonysuqin/FFmpeg-Quic-Cronet.git

4.2.4.2 编译

在FFmpeg/build目录下,执行:

./build_android.sh

在编译脚本中,需要指定NDK工具链的路径,libbequic库的头文件、库路径等(如果按照上述目录结构就不用修改),脚本会将编译产生的所有输出放在当前目录的android目录下。

4.2.4.3 Androd端简单测试

用Android Studio(3.4)打开BeQuic/test/android目录下的TestFFmpegQuic工程,将4.2.4.2节编译产生的所有.so库拷贝到BeQuic/test/android/TestFFmpegQuic/FFmpegQuic/src/main/jni/FFmpeg/lib/armeabi-v7a目录下,连接Android手机,编译、运行。

4.3 Linux

4.3.1 编译环境

软件版本
Ubuntu16.04
clang3.8.0-2ubuntu4
Chromium最新版,版本号ec12ef7159674fc37fd340f12aeb81fccfb547a6
FFMpeg4.1.quic

4.3.2 目录结构

确保目录结构如下

quic
|-- BeQuic
|-- chromium
`-- FFmpeg

4.3.3 编译bequic

4.3.3.1 下载bequic源码

创建并进入quic目录,执行

git clone https://github.com/sonysuqin/BeQuic.git

4.3.3.2 下载chromium源码

在quic目录下,按照chromium的官方编译文档,下载chromium代码(需要一个比较好的VPN)。

4.3.3.3 打bequic补丁

进入BeQuic/patch目录下,执行

./patch.sh

目的:

  • 将BeQuic/patch/BUILD.gn覆盖chromium/src/net目录下的BUILD.gn文件;
  • 把BeQuic/src/chromium下的文件拷贝到chromium/src/net/tools/quic目录下;

补丁并不修改chromium的源代码。

4.3.3.4 生成工程

在chromium/src下执行:

gn gen out/linux_release_x64_notcmalloc --args="is_debug=false is_component_build=false target_os=\"linux\" target_cpu=\"x64\" use_allocator=\"none\""

这里可以决定是产生Debug版还是Release版;
user_allocator=“none” :表示编译时malloc等系统库使用系统库函数,而不调用chromium自己实现的tcmalloc。

4.3.3.5 编译bequic库

在chromium/src下执行:

ninja -C out/linux_release_x64_notcmalloc libbequic

4.3.4 编译FFmpeg

4.3.4.1 下载支持bequic的FFmpeg源码

在quic目录下,执行

git clone https://github.com/sonysuqin/FFmpeg-Quic-Cronet.git

切换ffmepg版本为: 4.1.quic

4.3.4.2 configure

在FFmpeg下创建build目录,并进入FFmpeg/build目录,执行

../configure --disable-static --enable-shared --enable-gpl --enable-version3 --enable-sdl --enable-debug=3 --disable-optimizations --disable-mmx --disable-stripping --arch=x64 --enable-libbequic --extra-cflags="-I../../quic/chromium/src/net/tools/quic -fPIC" --extra-ldflags="-L../../quic/chromium/src/out/linux_release_x64 -fPIC" --extra-libs=-lbequic --prefix=../linux

注意修改–extra-cflags、–extra-ldflags为实际的bequic库的头文件、库文件的路径.。

4.3.4.3 编译

在FFmpeg/build目录下,执行

make && make install

4.3.4.4 测试

将libbequic.so拷贝到FFmpeg/build/lib下,执行

export LD_LIBRARY_PATH=<filepath>/ffmpeg/build/lib

然后在FFmpeg/build执行

./ffplay quic://www.example.org:6121 -timeout 1000 -verify_certificate 1

4.4 iOS

4.4.1 编译环境

软件版本
mac10.14
clangx86_64-apple-darwin18.0.0
Chromium最新版,版本号eca01417caf1e26ce41c88f2804291ddee75f5ed
xcode10.1

4.4.2 目录结构

确保目录结构如下

quic
|-- BeQuic
|-- chromium

4.4.3 编译bequic

4.4.3.1 下载bequic源码

在quic目录下,执行:

git clone https://github.com/sonysuqin/BeQuic.git

4.4.3.2 下载chromium源码

在quic目录下,按照chromium的官方编译文档,下载chromium代码(需要一个比较好的VPN)。

4.4.3.3 打bequic补丁

进入BeQuic/patch目录下,执行

mv BUILD.gn BUILD.gn.bak
mv BUILD.gn.ios BUILD.gn
./patch.sh
mv BUILD.gn BUILD.gn.ios
mv BUILD.gn.bak BUILD.gn

目的:

  • 将BeQuic/patch/BUILD.gn.ios覆盖chromium/src/net目录下的BUILD.gn文件;
  • 把BeQuic/src/chromium下的文件拷贝到chromium/src/net/tools/quic目录下;

补丁并不修改chromium的源代码。

4.4.3.4 生成工程

在chromium/src下执行:

gn gen out/ios_arm64_shared --args="is_debug=false is_component_build=false target_os=\"ios\" target_cpu=\"arm64\" ios_code_signing_identity=\"DB1A2124EA21DA7F2BECD69186C8DCFB4A1B7CC7\"" --ide=xcode

ios_code_signing_identity代表签名,使用下面命令查看本机所有签名

find-identity -v -p codesigning

4.4.3.5 编译bequic库

在chromium/src下执行

ninja -C out/ios_arm64_shared libbequic

注意:如果使用编译后的库,程序可以正常调用,但是执行后会出现下面的错误:
dyld: (Library not loaded: ./libbequic.dylib … Reason: image not found)
在终端下查看,执行

$otool -L libbequic.dylib 
		libbequic.dylib:
			./libbequic.dylib (compatibility version 0.0.0, current version 0.0.0)
			/System/Library/Frameworks/CoreFoundation.framework/CoreFoundation (compatibility version 150.0.0, current version 1560.10.0)
			/System/Library/Frameworks/CoreGraphics.framework/CoreGraphics (compatibility version 64.0.0, current version 1245.9.2)
			/System/Library/Frameworks/CoreText.framework/CoreText (compatibility version 1.0.0, current version 1.0.0)
			/System/Library/Frameworks/Foundation.framework/Foundation (compatibility version 300.0.0, current version 1560.10.0)
			/System/Library/Frameworks/UIKit.framework/UIKit (compatibility version 1.0.0, current version 61000.0.0)
			/System/Library/Frameworks/CFNetwork.framework/CFNetwork (compatibility version 1.0.0, current version 975.0.3)
			/System/Library/Frameworks/MobileCoreServices.framework/MobileCoreServices (compatibility version 1.0.0, current version 935.2.0)
			/System/Library/Frameworks/Security.framework/Security (compatibility version 1.0.0, current version 58286.222.2)
			/System/Library/Frameworks/SystemConfiguration.framework/SystemConfiguration (compatibility version 1.0.0, current version 963.200.27)
			/usr/lib/libresolv.9.dylib (compatibility version 1.0.0, current version 1.0.0)
			/usr/lib/libSystem.B.dylib (compatibility version 1.0.0, current version 1252.200.5)
			/usr/lib/libobjc.A.dylib (compatibility version 1.0.0, current version 228.0.0)

ios动态库的链接路径不能使用相对路径,否则无法找到链接文件。

修改动态库的查找路径

install_name_tool -id @rpath/libbequic.dylib libbequic.dylib

再用命令otool -L libbequic.dylib查看,发现已经修改。

4.4.4 编译测试程序

使用xcode打开Bequic/test/ios/quic_shared_test/quic_test.xcodeproj,编译后测试。

4.5 TBD

Mac OSX.

5 测试

5.1 部署QUIC Server

这里使用我们自研的Nginx Quic Server,作者为evansun922,Github地址为:https://github.com/evansun922/nginx-quic
这里贴出我使用的配置:

worker_rlimit_nofile  51200;
worker_processes      auto;
worker_cpu_affinity   auto;

#daemon off;
#master_process off;

user  root;                                                                                                                                                                            

#pid /var/log/nginx/nginx.pid;

events {
    worker_connections      1024;
    use                     epoll;
}


http {
    server_tokens           off;
    include                 mime.types;
    default_type            application/octet-stream;

    log_format              main  '$remote_addr - $remote_user [$time_local] "$request" '
    access_log              logs/access.log     main;
    error_log               logs/error.log debug;

    sendfile                on;
    keepalive_timeout       65;

    #gzip                   on;

    server {
        listen              80 so_keepalive=60s:5s:6;
        server_name         roblin.cn;
        root                /home/roblin/root;

        listen              443 quic reuseport sndbuf=1048576 rcvbuf=1048576;
        quic_ssl_certificate      /etc/letsencrypt/live/roblin.cn/fullchain.pem;
        quic_ssl_certificate_key  /etc/letsencrypt/live/roblin.cn/privkey.pkcs8;
        quic_bbr            on;

        listen              443 ssl; # managed by Certbot
        ssl_certificate     /etc/letsencrypt/live/roblin.cn/fullchain.pem; # managed by Certbot
        ssl_certificate_key /etc/letsencrypt/live/roblin.cn/privkey.pem; # managed by Certbot
        include             /etc/letsencrypt/options-ssl-nginx.conf; # managed by Certbot
        ssl_dhparam         /etc/letsencrypt/ssl-dhparams.pem; # managed by Certbot
        
        add_header          Access-Control-Allow-Origin *;
        add_header          Access-Control-Allow-Method *;
        add_header          alt-svc "quic=\":443\"; ma=500; v=\"48,47,46,44,43,39\"";

        location / {
            add_header      Access-Control-Allow-Origin *;
            add_header      Access-Control-Allow-Method *;
            add_header      alt-svc "quic=\":443\"; ma=500; v=\"48,47,46,44,43,39\"";
            index           index.html index.htm;
            expires         -1;
        }
    }
}

其中证书用的是Let‘s Encrypt的证书.

5.2 启动ffplay

在FFmpeg/build目录下,执行:

./ffplay.exe quics://roblin.cn:443/video/mao.mp4

在这里插入图片描述

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页