Android多媒体框架OpenCore

最新推荐文章于 2024-06-29 13:54:30 发布

littonvan

最新推荐文章于 2024-06-29 13:54:30 发布

阅读量579

点赞数

文章标签： android 框架 include library audio import

      第一部分 OpenCore概述
      OpenCore的另外一个常用的称呼是PacketVideo，它是Android的多媒体核心。PacketVideo是一家公司的名称，OpenCore是这套多媒体框架的软件层的名称。在Android的开发者层次看，二者的含义基本相同。对比Android的其它程序库，OpenCore的代码非常庞大，它是一个基于C++的实现，定义了全功能的操作系统移植层，各种基本的功能均被封装成类的形式，各层次之间的接口多使用继承等方式。OpenCore是一个多媒体的框架，从宏观上来看，它主要包含了两大方面的内容：
     * PVPlayer：提供媒体播放器的功能，完成各种音频（Audio）、视频（Video）流的回放（Playback）功能
     * PVAuthor：提供媒体流记录的功能，完成各种音频（Audio）、视频（Video）流的以及静态图像捕获功能
PVPlayer和PVAuthor以SDK的形式提供给开发者，可以在这个SDK之上构建多种应用程序和服务。比如在移动终端中常常使用的多媒体应用程序，例如媒体播放器、照相机、录像机、录音机等等。
      为了更好的组织整体的架构，OpenCore在软件层次在宏观上分成几个层次：
* OSCL：Operating System Compatibility Library (操作系统兼容库)，包含了一些操作系统底层的操作，为了更好地在不同操作系统移植。包含了基本数据类型、配置、字符串工具、IO、错误处理、线程等内容，类似一个基础的C++库。
* PVMF：PacketVideo Multimedia Framework（PV多媒体框架），在框架内实现一个文件解析（parser）和组成（composer）、编解码的NODE，也可以继承其通用的接口，在用户层实现一些NODE。
* PVPlayer Engine：PVPlayer引擎。
* PVAuthor Engine：PVAuthor引擎。
      事实上，OpenCore中包含的内容非常多：从播放的角度，PVPlayer的输入（Source）是文件或者网络媒体流，输出（Sink）是音频视频的输出设备，其基本功能包含了媒体流控制、文件解析、音频视频流的解码（Decode）等方面的内容。除了从文件中播放媒体文件之外，还包含了与网络相关的RTSP流（Real Time Stream Protocol,实时流协议）。在媒体流记录的方面，PVAuthor的输入（Source）是照相机、麦克风等设备，输出（Sink）是各种文件，包含了流的同步、音频视频流的编码（Encode）以及文件的写入等功能。
      在使用OpenCore的SDK的时候，有可能需要在应用程序层实现一个适配器（Adaptor），然后在适配器之上实现具体的功能，对于PVMF的NODE也可以基于通用的接口，在上层实现，以插件的形式使用。

                                                      第二部分 OpenCore的代码结构
2.1 代码结构
      以开源Android的代码为例，OpenCore的代码在以下目录中：external/opencore/。这个目录是OpenCore的根目录，其中包含的子目录如下所示：
* android：这里面是一个上层的库，它基于PVPlayer和PVAuthor的SDK实现了一个为Android使用的Player和Author。
* baselibs：包含数据结构和线程安全等内容的底层库
* codecs_v2：这是一个内容较多的库，主要包含编解码的实现，以及一个OpenMAX的实现
* engines：包含PVPlayer和PVAuthor引擎的实现
* extern_libs_v2：包含了khronos的OpenMAX的头文件
* fileformats：文件格式的解析（parser）工具
* nodes：提供一些PVMF的NODE，主要是编解码和文件解析方面的。
* oscl：操作系统兼容库
* pvmi：输入输出控制的抽象接口
* protocols：主要是与网络相关的RTSP、RTP、HTTP等协议的相关内容
* tools_v2：编译工具以及一些可注册的模块。
     在external/opencore/目录中还有2个文件，如下所示：
* Android.mk：全局的编译文件
* pvplayer.conf：配置文件
     在external/opencore/的各个子文件夹中包含了众多的Android.mk文件，它们之间还存在着“递归”的关系。例如根目录下的Android.mk，就包含了如下的内容片断：
include $(PV_TOP)/engines/player/test/Android.mk
include $(PV_TOP)/engines/author/test/Android.mk
include $(PV_TOP)/engines/2way/test/Android.mk
     这表示了要引用若干文件夹下面的Android.mk文件。external/opencore/的各个Android.mk文件可以按照排列组合进行使用，将几个Android.mk内容合并在一个库当中。

2.2 编译结构
1．库的层次关系：在Android的开源版本中编译出来的内容，OpenCore编译出来的各个库如下所示：
    * libopencorecommon.so：OpenCore底层的公共库
    * libopencoredownloadreg.so ：下载注册库
    * libopencoredownload.so：下载功能实现库
    * libopencoremp4reg.so：MP4注册库
    * libopencoremp4.so：MP4功能实现库
    * libopencorenet_support.so：网络支持库
    * libopencoreplayer.so：OpenCore的Player库

    * libopencoreauthor.so：OpenCore的Author库
    * libopencorertspreg.so：RTSP注册库
    * libopencorertsp.so：RTSP功能实现库
OpenCore的各个库之间具有如下的关系：
    libopencorecommon.so是所有的库的依赖库，提供了公共的功能；
    libopencoreplayer.so和libopencoreauthor.so是两个并立的库，分别用于回放和记录，而且这两个库是OpenCore对外的接口库；
    libopencorenet_support.so提供网络支持的功能；
    一些功能以插件（Plug-In）的方式放入Player中使用，每个功能使用两个库，一个实现具体功能，一个用于注册。
2．libopencorecommon.so库的结构
      libopencorecommon.so是整个OpenCore的核心库，它的编译控制的文件的路径为pvcommon/Android.mk，这个文件使用递归的方式寻找子文件：
include $(BUILD_SHARED_LIBRARY)
include $(PV_TOP)//oscl/oscl/osclbase/Android.mk
include $(PV_TOP)//oscl/oscl/osclerror/Android.mk
include $(PV_TOP)//oscl/oscl/osclmemory/Android.mk
include $(PV_TOP)//oscl/oscl/osclutil/Android.mk
include $(PV_TOP)//oscl/pvlogger/Android.mk
include $(PV_TOP)//oscl/oscl/osclproc/Android.mk
include $(PV_TOP)//oscl/oscl/osclio/Android.mk
include $(PV_TOP)//oscl/oscl/osclregcli/Android.mk
include $(PV_TOP)//oscl/oscl/osclregserv/Android.mk
include $(PV_TOP)//oscl/unit_test/Android.mk
include $(PV_TOP)//oscl/oscl/oscllib/Android.mk
include $(PV_TOP)//pvmi/pvmf/Android.mk
include $(PV_TOP)//baselibs/pv_mime_utils/Android.mk
include $(PV_TOP)//nodes/pvfileoutputnode/Android.mk
include $(PV_TOP)//baselibs/media_data_structures/Android.mk
include $(PV_TOP)//baselibs/threadsafe_callback_ao/Android.mk
include $(PV_TOP)//codecs_v2/utilities/colorconvert/Android.mk
include $(PV_TOP)//codecs_v2/audio/gsm_amr/amr_nb/common/Android.mk
include $(PV_TOP)//codecs_v2/video/avc_h264/common/Android.mk
       这些被包含的Android.mk文件真正指定需要编译的文件，这些文件在Android.mk的目录及其子目录中。事实上，在libopencorecommon.so库中包含了以下内容：
    * OSCL的所有内容
    * Pvmf框架部分的内容（pvmi/pvmf/Android.mk）
    * 基础库中的一些内容（baselibs）
    * 编解码的一些内容
    * 文件输出的node（nodes/pvfileoutputnode/Android.mk）
      从库的结构中可以看出，最终生成库的结构与OpenCore的层次关系并非完全重合。libopencorecommon.so库中就包含了底层的OSCL的内容、PVMF的框架以及Node和编解码的工具。
3．libopencoreplayer.so库的结构
     libopencoreplayer.so是用于播放的功能库，它的编译控制的文件的路径为pvplayer/Android.mk，它包含了以下的内容：
include $(BUILD_SHARED_LIBRARY)
include $(PV_TOP)//engines/player/Android.mk
include $(PV_TOP)//codecs_v2/audio/aac/dec/util/getactualaacconfig/Android.mk
include $(PV_TOP)//codecs_v2/video/avc_h264/dec/Android.mk
include $(PV_TOP)//codecs_v2/audio/aac/dec/Android.mk
include $(PV_TOP)//codecs_v2/audio/gsm_amr/amr_nb/dec/Android.mk
include $(PV_TOP)//codecs_v2/audio/gsm_amr/amr_wb/dec/Android.mk
include $(PV_TOP)//codecs_v2/audio/gsm_amr/common/dec/Android.mk
include $(PV_TOP)//codecs_v2/audio/mp3/dec/Android.mk
include $(PV_TOP)//codecs_v2/utilities/m4v_config_parser/Android.mk
include $(PV_TOP)//codecs_v2/utilities/pv_video_config_parser/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_common/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_queue/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_h264/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_aac/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_amr/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_mp3/Android.mk
include $(PV_TOP)//codecs_v2/omx/factories/omx_m4v_factory/Android.mk
include $(PV_TOP)//codecs_v2/omx/omx_proxy/Android.mk
include $(PV_TOP)//nodes/common/Android.mk
include $(PV_TOP)//pvmi/content_policy_manager/Android.mk
include $(PV_TOP)//pvmi/content_policy_manager/plugins/oma1/passthru/Android.mk
include $(PV_TOP)//pvmi/content_policy_manager/plugins/common/Android.mk
include $(PV_TOP)//pvmi/media_io/pvmiofileoutput/Android.mk
include $(PV_TOP)//fileformats/common/parser/Android.mk
include $(PV_TOP)//fileformats/id3parcom/Android.mk
include $(PV_TOP)//fileformats/rawgsmamr/parser/Android.mk
include $(PV_TOP)//fileformats/mp3/parser/Android.mk
include $(PV_TOP)//fileformats/mp4/parser/Android.mk
include $(PV_TOP)//fileformats/rawaac/parser/Android.mk
include $(PV_TOP)//fileformats/wav/parser/Android.mk
include $(PV_TOP)//nodes/pvaacffparsernode/Android.mk
include $(PV_TOP)//nodes/pvmp3ffparsernode/Android.mk
include $(PV_TOP)//nodes/pvamrffparsernode/Android.mk
include $(PV_TOP)//nodes/pvmediaoutputnode/Android.mk
include $(PV_TOP)//nodes/pvomxvideodecnode/Android.mk
include $(PV_TOP)//nodes/pvomxaudiodecnode/Android.mk
include $(PV_TOP)//nodes/pvwavffparsernode/Android.mk
include $(PV_TOP)//pvmi/recognizer/Android.mk
include $(PV_TOP)//pvmi/recognizer/plugins/pvamrffrecognizer/Android.mk
include $(PV_TOP)//pvmi/recognizer/plugins/pvmp3ffrecognizer/Android.mk
include $(PV_TOP)//pvmi/recognizer/plugins/pvwavffrecognizer/Android.mk
include $(PV_TOP)//engines/common/Android.mk
include $(PV_TOP)//engines/adapters/player/framemetadatautility/Android.mk
include $(PV_TOP)//protocols/rtp_payload_parser/util/Android.mk
include $(PV_TOP)//android/Android.mk
include $(PV_TOP)//android/drm/oma1/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_rtsp/core/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_rtsp/node_registry/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_net_support/core/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_download/core/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_download/node_registry/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_mp4/core/Android.mk
include $(PV_TOP)//tools_v2/build/modules/linux_mp4/node_registry/Android.mk
libopencoreplayer.so中包含了以下内容：
    * 一些解码工具
    * 文件的解析器（mp4）
    * 解码工具对应的Node
    * player的引擎部分（engines/player/Android.mk）
    * 为Android的player适配器（android/Android.mk）
    * 识别工具（pvmi/recognizer）
    * 编解码工具中的OpenMax部分(codecs_v2/omx)
    * 对应几个插件Node的注册
     libopencoreplayer.so中的内容较多，其中主要为各个文件解析器和解码器，PVPlayer的核心功能在engines/player /Android.mk当中，而android/Android.mk的内容比较特殊，它是在PVPlayer之上构建的一个为Android使用的播放器。
4．libopencoreauthor.so库的结构
     libopencoreauthor.so是用于媒体流记录的功能库，它的编译控制的文件的路径为pvauthor/Android.mk，它包含了以下的内容：
include $(BUILD_SHARED_LIBRARY)
include $(PV_TOP)//engines/author/Android.mk
include $(PV_TOP)//codecs_v2/video/m4v_h263/enc/Android.mk
include $(PV_TOP)//codecs_v2/audio/gsm_amr/amr_nb/enc/Android.mk
include $(PV_TOP)//codecs_v2/video/avc_h264/enc/Android.mk
include $(PV_TOP)//fileformats/mp4/composer/Android.mk
include $(PV_TOP)//nodes/pvamrencnode/Android.mk
include $(PV_TOP)//nodes/pvmp4ffcomposernode/Android.mk
include $(PV_TOP)//nodes/pvvideoencnode/Android.mk
include $(PV_TOP)//nodes/pvavcencnode/Android.mk
include $(PV_TOP)//nodes/pvmediainputnode/Android.mk
include $(PV_TOP)//android/author/Android.mk
libopencoreauthor.so中包含了以下内容：
    * 一些编码工具（视频流H263、H264，音频流Amr）
    * 文件的组成器（mp4）
    * 编码工具对应的Node
    * 表示媒体输入的Node（nodes/pvmediainputnode/Android.m）
    * author的引擎部分（engines/author/Android.mk）
    * 为Android的author适配器（android/author/Android.mk）
     libopencoreauthor.so中主要为各个文件编码器和文件组成器，PVAuthor的核心功能在engines/author /Android.mk当中，而android/author/Android.mk是在PVAuthor之上构建的一个为Android使用的媒体记录器。

5．其他库
另外的几个库的Android.mk文件的路径如下所示：
网络支持库libopencorenet_support.so：
tools_v2/build/modules/linux_net_support/core/Android.mk

MP4功能实现库libopencoremp4.so和注册库libopencoremp4reg.so：
tools_v2/build/modules/linux_mp4/core/Android.mk
tools_v2/build/modules/linux_mp4/node_registry/Android.mk

RTSP功能实现库libopencorertsp.so和注册库libopencorertspreg.so：
tools_v2/build/modules/linux_rtsp/core/Android.mk
tools_v2/build/modules/linux_rtsp/node_registry/Android.mk

下载功能实现库libopencoredownload.so和注册库libopencoredownloadreg.so：
tools_v2/build/modules/linux_download/core/Android.mk
tools_v2/build/modules/linux_download/node_registry/Android.mk

Android多媒体框架OpenCore（PacketVideo）介绍之二：OSCL和文件编解码
                                                 第三部分 OpenCore OSCL简介
     OSCL，全称为Operating System Compatibility Library (操作系统兼容库)，它包含了一些在不同操作系统中移植层的功能，其代码结构如下所示：
oscl/oscl
|-- config             ：配置的宏
|-- makefile
|-- makefile.pv
|-- osclbase         ：包含基本类型、宏以及一些STL容器类似的功能
|-- osclerror         ：错误处理的功能
|-- osclio              ：文件IO和Socket等功能
|-- oscllib             ：动态库接口等功能
|-- osclmemory    ：内存管理、自动指针等功能
|-- osclproc          ：线程、多任务通讯等功能
|-- osclregcli         ：注册客户端的功能
|-- osclregserv     ：注册服务器的功能
`-- osclutil            ：字符串等基本功能
      在oscl的目录中，一般每一个目录表示一个模块。OSCL对应的功能是非常细致的，几乎对C语言中每一个细节的功能都进行封装，并使用了C++的接口提供给上层使用。事实上，OperCore中的PVMF、Engine部分都在使用OSCL，而整个OperCore的调用者也需要使用OSCL。在OSCL的实现中，很多典型的C语言函数被进行了简单的封装，例如：osclutil中与数学相关的功能在oscl_math.inl中被定义成为了内嵌（inline）的函数：
OSCL_COND_EXPORT_REF OSCL_INLINE double oscl_log(double value)
{
         return (double) log(value);
}
OSCL_COND_EXPORT_REF OSCL_INLINE double oscl_log10(double value)
{
         return (double) log10(value);
}
OSCL_COND_EXPORT_REF OSCL_INLINE double oscl_sqrt(double value)
{
         return (double) sqrt(value);
}
      oscl_math.inl文件又被oscl_math.h所包含，因此其结果是oscl_log()等功能的使用等价于原始的log()等函数。很多C语言标准库的句柄都被定义成为了C++类的形式，实现有一些繁琐，但是复杂性都不是很高。以oscllib为例，其代码结构如下所示：
oscl/oscl/oscllib/
|-- Android.mk
|-- build
|   `-- make
|       `-- makefile
`-- src
    |-- oscl_library_common.h
    |-- oscl_library_list.cpp
    |-- oscl_library_list.h
    |-- oscl_shared_lib_interface.h
    |-- oscl_shared_library.cpp
    `-- oscl_shared_library.h
     oscl_shared_library.h是提供给上层使用的动态库的接口功能，它定义的接口如下所示：
class OsclSharedLibrary
{
public:
        OSCL_IMPORT_REF OsclSharedLibrary();
        OSCL_IMPORT_REF OsclSharedLibrary(const OSCL_String& aPath);
        OSCL_IMPORT_REF ~OsclSharedLibrary();
        OSCL_IMPORT_REF OsclLibStatus LoadLib(const OSCL_String& aPath);
        OSCL_IMPORT_REF OsclLibStatus LoadLib();
        OSCL_IMPORT_REF void SetLibPath(const OSCL_String& aPath);
        OSCL_IMPORT_REF OsclLibStatus QueryInterface(const OsclUuid& aInterfaceId, OsclAny*& aInterfacePtr);
        OSCL_IMPORT_REF OsclLibStatus Close();
        OSCL_IMPORT_REF void AddRef();
        OSCL_IMPORT_REF void RemoveRef();
}
      这些接口显然都是与库的加载有关系的，而在oscl_shared_library.cpp 中其具体的功能是使用dlopen()等函数来实现的。
                                                   第四部分文件格式处理和编解码部分简介
      在多媒体方面，文件格式的处理和编解码（Codec）是很基础的两个方面的内容。多媒体应用的两个方面是媒体的播放（PlayBack）和媒体的记录（Recording）。
      在媒体的播放过程中，通常情况是从对媒体文件的播放，必要的两个步骤为文件的解析和媒体流的解码。例如对于一个mp4的文件，其中可能包括AMR和AAC 的音频流，H263、MPEG4以及AVC（H264）的视频流，这些流被封装在3GP的包当中，媒体播放器要做的就是从文件中将这些流解析出来，然后对媒体流进行解码，解码后的数据才可以播放。
      在媒体的记录过程中，通过涉及到视频、音频、图像的捕获功能。对于将视频加音频录制成文件功能，其过程与播放刚好相反，首先从硬件设备得到视频和音频的媒体流，然后对其进行编码，编码号的流还需要被分层次写入到文件之中，最终得到组成好的文件。OpenCore有关文件格式处理和编解码部分两部分的内容，分别在目录fileformats和codecs_v2当中。这两部分都属于基础性的功能，不涉及具体的逻辑，因此它们被别的模块调用来使用，例如：构建各种Node。
4.1 文件格式的处理

PVCommandId Init(const OsclAny* aContextData = NULL);
PVCommandId AddDataSink(PVPlayerDataSink& aDataSink, const OsclAny* aContextData = NULL);
PVCommandId Prepare(const OsclAny* aContextData = NULL);
PVCommandId Start(const OsclAny* aContextData = NULL);
PVCommandId Pause(const OsclAny* aContextData = NULL);
PVCommandId Resume(const OsclAny* aContextData = NULL);
PVCommandId Stop(const OsclAny* aContextData = NULL);
PVCommandId RemoveDataSink(PVPlayerDataSink& aDataSink, const OsclAny* aContextData = NULL);
PVCommandId Reset(const OsclAny* aContextData = NULL);
PVCommandId RemoveDataSource(PVPlayerDataSource& aDataSource, const OsclAny* aContextData = NULL);
      这里面的DataSink可能包含Video的输出和Audio的输出两者部分。在pv_player_types.h文件中，定义了Player的状态机，以PVP_STATE_为开头，如下所示：
typedef enum
{
    PVP_STATE_IDLE        = 1,
    PVP_STATE_INITIALIZED = 2,
    PVP_STATE_PREPARED    = 3,
    PVP_STATE_STARTED     = 4,
    PVP_STATE_PAUSED      = 5,
    PVP_STATE_ERROR       = 6
} PVPlayerState;
PVPlayerInterface 中的各个操作如果成功，可以更改Player的状态机：初始化的时候Player是PVP_STATE_IDLE状态，调用Init后，进入PVP_STATE_INITIALIZED状态；调用AddDataSink，进入PVP_STATE_PREPARED状态；调用Prepare后，进入PVP_STATE_PREPARED状态；调用start后进入PVP_STATE_STARTED状态，之后可以调用pause进入PVP_STATE_PAUSED状态。
PVP_STATE_STARTED和PVP_STATE_PAUSED状态是播放情况下的状态，可以使用start和pause函数在这两个状态中切换。在播放过程中，调用stop可以返回PVP_STATE_INITIALIZED状态，在调用RemoveDataSource返回PVP_STATE_IDLE状态。

5.3 Android Player部分
这个Android的Player的“适配器”需要调用OpenCore的Player Engine的接口，实现Android的媒体播放器的服务所需要接口，即最终实现一个PVPlayer，而PVPlayer实际上是继承了MediaPlayerInterface。在实现过程中，首先实现了一个PlayerDriver，然后再使用PVPlayer，PVPlayer通过调用PlayerDriver来完成具体的功能。对PVPlayerDriver的各种操作使用各种命令来完成，这些命令在playerdriver.h中进行的定义。

enum player_command_type {
    PLAYER_QUIT                     = 1,
    PLAYER_SETUP                    = 2,
    PLAYER_SET_DATA_SOURCE          = 3,
    PLAYER_SET_VIDEO_SURFACE        = 4,
    PLAYER_SET_AUDIO_SINK           = 5,
    PLAYER_INIT                     = 6,
    PLAYER_PREPARE                  = 7,
    PLAYER_START                    = 8,
    PLAYER_STOP                     = 9,
    PLAYER_PAUSE                    = 10,
    PLAYER_RESET                    = 11,
    PLAYER_SET_LOOP                 = 12,
    PLAYER_SEEK                     = 13,
    PLAYER_GET_POSITION             = 14,
    PLAYER_GET_DURATION             = 15,
    PLAYER_GET_STATUS               = 16,
    PLAYER_REMOVE_DATA_SOURCE       = 17,
    PLAYER_CANCEL_ALL_COMMANDS      = 18,
};
                                                       第六部分 OpenCore Author介绍