【鸿蒙实战开发】HarmonyOS应用开发-音频解码

192 篇文章 0 订阅
192 篇文章 0 订阅

开发者可以调用本模块的Native API接口,完成音频解码,即将媒体数据解码为PCM码流。

当前支持的解码能力如下:

容器规格音频解码类型
mp4AAC、MPEG(MP3)、Flac、Vorbis、AudioViVid11+
m4aAAC
flacFlac
oggVorbis、opus
aacAAC
mp3MPEG(MP3)
amrAMR(amrnb、amrwb)
rawG711mu
apeAPE

适用场景

  • 音频播放

    在播放音频之前,需要先解码音频,再将数据输送到硬件扬声器播放。

  • 音频渲染

    在对音频文件进行音效处理之前,需要先解码再由音频处理模块进行音频渲染。

  • 音频编辑

    音频编辑(如调整单个声道的播放倍速等)需要基于PCM码流进行,所以需要先将音频文件解码。

开发指导

详细的API说明请参考API文档。

参考以下示例代码,完成音频解码的全流程,包括:创建解码器、设置解码参数(采样率/码率/声道数等)、开始、刷新、重置、销毁资源。

在应用开发过程中,开发者应按一定顺序调用方法,执行对应操作,否则系统可能会抛出异常或生成其他未定义的行为。具体顺序可参考下列开发步骤及对应说明。

如下为音频解码调用关系图:

image.png

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libnative_media_codecbase.so)
target_link_libraries(sample PUBLIC libnative_media_core.so)
target_link_libraries(sample PUBLIC libnative_media_acodec.so)

开发步骤

  1. 添加头文件。
#include <multimedia/player_framework/native_avcodec_audiocodec.h>
#include <multimedia/native_audio_channel_layout.h>
#include <multimedia/player_framework/native_avcapability.h>
#include <multimedia/player_framework/native_avcodec_base.h>
#include <multimedia/player_framework/native_avformat.h>
#include <multimedia/player_framework/native_avbuffer.h>
  1. 创建解码器实例对象,OH_AVCodec *为解码器实例指针。
//c++标准库命名空间
using namespace std;
// 通过 codecname 创建解码器
OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, false);
const char *name = OH_AVCapability_GetName(capability);
OH_AVCodec *audioDec_ = OH_AudioCodec_CreateByName(name);
// 设置判定是否为编码;设置false表示当前是解码。
bool isEncoder = false;
// 通过 Mimetype 创建解码器
OH_AVCodec *audioDec_ = OH_AudioCodec_CreateByMime(OH_AVCODEC_MIMETYPE_AUDIO_MPEG, isEncoder);
// 初始化队列
class ADecBufferSignal {
public:
    std::mutex inMutex_;
    std::mutex outMutex_;
    std::mutex startMutex_;
    std::condition_variable inCond_;
    std::condition_variable outCond_;
    std::condition_variable startCond_;
    std::queue<uint32_t> inQueue_;
    std::queue<uint32_t> outQueue_;
    std::queue<OH_AVBuffer *> inBufferQueue_;
    std::queue<OH_AVBuffer *> outBufferQueue_;
};
ADecBufferSignal *signal_;
  1. 调用OH_AudioCodec_RegisterCallback()注册回调函数。

    注册回调函数指针集合OH_AVCodecCallback,包括:

    • OH_AVCodecOnError:解码器运行错误。
    • OH_AVCodecOnStreamChanged:码流信息变化,如声道变化等。
    • OH_AVCodecOnNeedInputBuffer:运行过程中需要新的输入数据,即解码器已准备好,可以输入数据。
    • OH_AVCodecOnNewOutputBuffer:运行过程中产生了新的输出数据,即解码完成。

    开发者可以通过处理该回调报告的信息,确保解码器正常运转。

// OH_AVCodecOnError回调函数的实现
static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData)
{
    (void)codec;
    (void)errorCode;
    (void)userData;
}
// OH_AVCodecOnStreamChanged回调函数的实现
static void OnOutputFormatChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData)
{
    (void)codec;
    (void)format;
    (void)userData;
}
// OH_AVCodecOnNeedInputBuffer回调函数的实现
static void OnInputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *data, void *userData)
{
    (void)codec;
    ADecBufferSignal *signal = static_cast<ADecBufferSignal *>(userData);
    unique_lock<mutex> lock(signal->inMutex_);
    signal->inQueue_.push(index);
    signal->inBufferQueue_.push(data);
    signal->inCond_.notify_all();
    // 解码输入码流送入inBufferQueue_队列
}
// OH_AVCodecOnNewOutputBuffer回调函数的实现
static void OnOutputBufferAvailable(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *data, void *userData)
{
    (void)codec;
    ADecBufferSignal *signal = static_cast<ADecBufferSignal *>(userData);
    unique_lock<mutex> lock(signal->outMutex_);
    signal->outQueue_.push(index);
    signal->outBufferQueue_.push(data);
    signal->outCond_.notify_all();
    // 将对应输出buffer的 index 送入outQueue_队列
    // 将对应解码完成的数据data送入outBufferQueue_队列
}
signal_ = new ADecBufferSignal();
OH_AVCodecCallback cb_ = {&OnError, &OnOutputFormatChanged, &OnInputBufferAvailable, &OnOutputBufferAvailable};
int32_t ret = OH_AudioCodec_RegisterCallback(audioDec_, cb_, signal_);
if (ret != AVCS_ERR_OK) {
    // 异常处理
}
  1. (可选)OH_AudioCodec_SetDecryptionConfig设置解密配置。当获取到DRM信息(参考音视频解封装开发步骤第3步)后,通过此接口进行解密配置。DRM相关接口详见DRM API文档。此接口需在Prepare前调用。

添加头文件

#include <multimedia/drm_framework/native_mediakeysystem.h>
#include <multimedia/drm_framework/native_mediakeysession.h>
#include <multimedia/drm_framework/native_drm_err.h>
#include <multimedia/drm_framework/native_drm_common.h>

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libnative_drm.so)

使用示例

// 根据DRM信息创建指定的DRM系统, 以创建"com.wiseplay.drm"为例
MediaKeySystem *system = nullptr;
int32_t ret = OH_MediaKeySystem_Create("com.wiseplay.drm", &system);
if (system == nullptr) {
    printf("create media key system failed");
    return;
}
// 进行DRM授权
// 创建解密会话
MediaKeySession *session = nullptr;
DRM_ContentProtectionLevel contentProtectionLevel = CONTENT_PROTECTION_LEVEL_SW_CRYPTO;
ret = OH_MediaKeySystem_CreateMediaKeySession(system, &contentProtectionLevel, &session);
if (session == nullptr) {
    printf("create media key session failed");
    return;
}
// 获取许可证请求、设置许可证响应等
// 设置解密配置, 即将解密会话、安全通路标志(当前音频解密不支持安全通路,应设置为false)设置到解码器中。
bool secureAudio = false;
ret = OH_AudioCodec_SetDecryptionConfig(audioDec_, session, secureAudio);
  1. 调用OH_AudioCodec_Configure()配置解码器。

    配置选项key值说明:

    描述AACFlacVorbisMPEGG711muAMR(amrnb、amrwb)APE
    OH_MD_KEY_AUD_SAMPLE_RATE采样率必须必须必须必须必须必须必须
    OH_MD_KEY_AUD_CHANNEL_COUNT声道数必须必须必须必须必须必须必须
    OH_MD_KEY_MAX_INPUT_SIZE最大输入长度可选可选可选可选可选可选可选
    OH_MD_KEY_AAC_IS_ADTS是否adts可选,默认1 latm类型------
    MD_KEY_AUDIO_SAMPLE_FORMAT输出音频流格式可选(SAMPLE_S16LE,SAMPLE_F32LE)-可选(SAMPLE_S16LE,SAMPLE_F32LE)可选可选(默认SAMPLE_S16LE)可选(SAMPLE_S16LE,SAMPLE_F32LE)可选
    MD_KEY_BITRATE可选可选可选可选可选可选可选可选
    MD_KEY_IDENTIFICATION_HEADERID Header--必须(和Codec_Config二选一)----
    MD_KEY_SETUP_HEADERSetup Header--必须(和Codec_Config二选一)----
    MD_KEY_CODEC_CONFIGMD_KEY_SETUP_HEADERID Header+Common Header+Setup Header 拼接-必须(和上述ID和Setup二选一)----
// 设置解码分辨率
int32_t ret;
// 配置音频采样率(必须)
constexpr uint32_t DEFAULT_SAMPLERATE = 44100;
// 配置音频码率(必须)
constexpr uint32_t DEFAULT_BITRATE = 32000;
// 配置音频声道数(必须)
constexpr uint32_t DEFAULT_CHANNEL_COUNT = 2;
// 配置最大输入长度(可选)
constexpr uint32_t DEFAULT_MAX_INPUT_SIZE = 1152;
// 配置是否为ADTS解码(acc)
constexpr uint32_t DEFAULT_AAC_TYPE = 1;
OH_AVFormat *format = OH_AVFormat_Create();
// 写入format
OH_AVFormat_SetIntValue(format, OH_MD_KEY_AUD_SAMPLE_RATE, DEFAULT_SAMPLERATE);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_BITRATE, DEFAULT_BITRATE);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_AUD_CHANNEL_COUNT, DEFAULT_CHANNEL_COUNT);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_MAX_INPUT_SIZE, DEFAULT_MAX_INPUT_SIZE);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_AAC_IS_ADTS, DEFAULT_AAC_TYPE);
// 配置解码器
ret = OH_AudioCodec_Configure(audioDec_, format);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. 调用OH_AudioCodec_Prepare(),解码器就绪。
ret = OH_AudioCodec_Prepare(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. 调用OH_AudioCodec_Start()启动解码器,进入运行态。
unique_ptr<ifstream> inputFile_ = make_unique<ifstream>();
unique_ptr<ofstream> outFile_ = make_unique<ofstream>();
// 打开待解码二进制文件路径
inputFile_->open(inputFilePath.data(), ios::in | ios::binary); 
// 配置解码文件输出路径
outFile_->open(outputFilePath.data(), ios::out | ios::binary);
// 开始解码
ret = OH_AudioCodec_Start(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. (可选)调用OH_AVCencInfo_SetAVBuffer(),设置cencInfo。

若当前播放的节目是DRM加密节目,且由上层应用做媒体解封装,则须调用OH_AVCencInfo_SetAVBuffer()将cencInfo设置给AVBuffer,以实现AVBuffer中媒体数据的解密。

添加头文件

#include <multimedia/player_framework/native_cencinfo.h>

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libnative_media_avcencinfo.so)

使用示例

auto buffer = signal_->inBufferQueue_.front();
int64_t size;
int64_t pts;
uint32_t keyIdLen = DRM_KEY_ID_SIZE;
uint8_t keyId[] = {
    0xd4, 0xb2, 0x01, 0xe4, 0x61, 0xc8, 0x98, 0x96,
    0xcf, 0x05, 0x22, 0x39, 0x8d, 0x09, 0xe6, 0x28};
uint32_t ivLen = DRM_KEY_IV_SIZE;
uint8_t iv[] = {
    0xbf, 0x77, 0xed, 0x51, 0x81, 0xde, 0x36, 0x3e,
    0x52, 0xf7, 0x20, 0x4f, 0x72, 0x14, 0xa3, 0x95};
uint32_t encryptedBlockCount = 0;
uint32_t skippedBlockCount = 0;
uint32_t firstEncryptedOffset = 0;
uint32_t subsampleCount = 1;
DrmSubsample subsamples[1] = { {0x10, 0x16} };
inputFile_.read(reinterpret_cast<char *>(&size), sizeof(size));
inputFile_.read(reinterpret_cast<char *>(&pts), sizeof(pts));
inputFile_.read((char *)OH_AVMemory_GetAddr(buffer), size);
OH_AVCencInfo *cencInfo = OH_AVCencInfo_Create();
if (cencInfo == nullptr) {
    // 异常处理
}
OH_AVErrCode errNo = OH_AVCencInfo_SetAlgorithm(cencInfo, DRM_ALG_CENC_AES_CTR);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
errNo = OH_AVCencInfo_SetKeyIdAndIv(cencInfo, keyId, keyIdLen, iv, ivLen);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
errNo = OH_AVCencInfo_SetSubsampleInfo(cencInfo, encryptedBlockCount, skippedBlockCount, firstEncryptedOffset,
    subsampleCount, subsamples);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
errNo = OH_AVCencInfo_SetMode(cencInfo, DRM_CENC_INFO_KEY_IV_SUBSAMPLES_SET);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
errNo = OH_AVCencInfo_SetAVBuffer(cencInfo, buffer);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
errNo = OH_AVCencInfo_Destroy(cencInfo);
if (errNo != AV_ERR_OK) {
    // 异常处理
}
  1. 调用OH_AudioCodec_PushInputBuffer(),写入待解码的数据。

如果是结束,需要对flag标识成AVCODEC_BUFFER_FLAGS_EOS。

uint32_t index = signal_->inQueue_.front();
auto buffer = signal_->inBufferQueue_.front();
int64_t size;
int64_t pts;
// size是待解码数据的每帧帧长度。pts是每帧的时间戳,用于指示音频应该何时被播放。
// size和pts的获取来源:音视频资源文件或者待解码的数据流
// 若是解码音视频资源文件,则需从解封装OH_AVDemuxer_ReadSampleBuffer的buffer中获取
// 若是解码数据流,则需要从数据流的提供者获取。
// 此处为了介绍解码功能以测试文件中保存的size和pts为示例
inputFile_.read(reinterpret_cast<char *>(&size), sizeof(size));
inputFile_.read(reinterpret_cast<char *>(&pts), sizeof(pts));
inputFile_.read((char *)OH_AVBuffer_GetAddr(buffer), size);
OH_AVCodecBufferAttr attr = {0};
if (inputFile_->eof()) {
    attr.size = 0;
    attr.flags = AVCODEC_BUFFER_FLAGS_EOS;
} else {
    attr.size = size;
    attr.flags = AVCODEC_BUFFER_FLAGS_NONE;
}
attr.pts = pts;
OH_AVBuffer_SetBufferAttr(buffer, &attr);
int32_t ret = OH_AudioCodec_PushInputBuffer(audioDec_, index);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. 调用OH_AudioCodec_FreeOutputBuffer(),输出解码后的PCM码流。

从API version 11开始,Audio Vivid新增获取获取元数据。

uint32_t index = signal_->outQueue_.front();
OH_AVBuffer *data = signal_->outBufferQueue_.front();
// 获取buffer attributes
OH_AVCodecBufferAttr attr = {0};
ret = OH_AVBuffer_GetBufferAttr(data, &attr);
if (ret != AV_ERR_OK) {
    // 异常处理
}
// 将解码完成数据data写入到对应输出文件中
pcmOutputFile_.write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(data)), attr.size);

// API version 11开始提供 获取audio vivid 元数据
OH_AVFormat * format = OH_AVBuffer_GetParameter(data);
uint8_t *metadata = nullptr;
size_t metaSize;
OH_AVFormat_GetBuffer(format,OH_MD_KEY_AUDIO_VIVID_METADATA,&metadata,&metaSize);

ret = OH_AudioCodec_FreeOutputBuffer(audioDec_, index);
if (ret != AV_ERR_OK) {
    // 异常处理
}
if (attr.flags == AVCODEC_BUFFER_FLAGS_EOS) {
    // 结束
}
  1. (可选)调用OH_AudioCodec_Flush()刷新解码器。

调用OH_AudioCodec_Flush()后,解码器仍处于运行态,但会将当前队列清空,将已解码的数据释放。

此时需要调用OH_AudioCodec_Start()重新开始解码。

使用情况:

  • 在文件EOS之后,需要调用刷新
  • 在执行过程中遇到可继续执行的错误时(即OH_AudioCodec_IsValid 为true)调用
 // 刷新解码器 audioDec_
ret = OH_AudioCodec_Flush(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
// 重新开始解码
ret = OH_AudioCodec_Start(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. (可选)调用OH_AudioCodec_Reset()重置解码器。

调用OH_AudioCodec_Reset()后,解码器回到初始化的状态,需要调用OH_AudioCodec_Configure()重新配置,然后调用OH_AudioCodec_Start()重新开始解码。

// 重置解码器 audioDec_
ret = OH_AudioCodec_Reset(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
// 重新配置解码器参数
ret = OH_AudioCodec_Configure(audioDec_, format);
if (ret != AV_ERR_OK) {
// 异常处理
}
  1. 调用OH_AudioCodec_Stop()停止解码器。
// 终止解码器 audioDec_
ret = OH_AudioCodec_Stop(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
}
  1. 调用OH_AudioCodec_Destroy()销毁解码器实例,释放资源。

说明

不要重复销毁解码器

// 调用OH_AudioCodec_Destroy, 注销解码器
ret = OH_AudioCodec_Destroy(audioDec_);
if (ret != AV_ERR_OK) {
    // 异常处理
} else {
    audioDec_ = NULL; // 不可重复destroy
}

写在最后

有很多小伙伴不知道学习哪些鸿蒙开发技术?不知道需要重点掌握哪些鸿蒙应用开发知识点?而且学习时频繁踩坑,最终浪费大量时间。所以有一份实用的鸿蒙(HarmonyOS NEXT)文档用来跟着学习是非常有必要的。

希望这一份鸿蒙学习文档能够给大家带来帮助,有需要的小伙伴自行领取,限时开源,先到先得~无套路领取!!

如果你是一名有经验的资深Android移动开发、Java开发、前端开发、对鸿蒙感兴趣以及转行人员,可以直接领取这份资料

请点击→纯血版全套鸿蒙HarmonyOS学习文档

鸿蒙(HarmonyOS NEXT)5.0最新学习路线

在这里插入图片描述

路线图适合人群:

IT开发人员:想要拓展职业边界
零基础小白:鸿蒙爱好者,希望从0到1学习,增加一项技能。
技术提升/进阶跳槽:发展瓶颈期,提升职场竞争力,快速掌握鸿蒙技术

获取以上完整版高清学习路线,请点击→纯血版全套鸿蒙HarmonyOS学习文档

《鸿蒙 (HarmonyOS)开发入门教学视频》

在这里插入图片描述

《鸿蒙生态应用开发V3.0白皮书》

在这里插入图片描述

《鸿蒙 (OpenHarmony)开发基础到实战手册》

OpenHarmony北向、南向开发环境搭建

在这里插入图片描述

《鸿蒙开发基础》

●ArkTS语言
●安装DevEco Studio
●运用你的第一个ArkTS应用
●ArkUI声明式UI开发
.……
在这里插入图片描述

《鸿蒙开发进阶》

●Stage模型入门
●网络管理
●数据管理
●电话服务
●分布式应用开发
●通知与窗口管理
●多媒体技术
●安全技能
●任务管理
●WebGL
●国际化开发
●应用测试
●DFX面向未来设计
●鸿蒙系统移植和裁剪定制
……
在这里插入图片描述

《鸿蒙进阶实战》

●ArkTS实践
●UIAbility应用
●网络案例
……
在这里插入图片描述

获取以上完整鸿蒙HarmonyOS学习文档,请点击→纯血版全套鸿蒙HarmonyOS学习文档

在这里插入图片描述

  • 20
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值