音频的mixer

本文探讨了混音处理中的溢出问题及其解决方案。介绍了自然界与数字音频领域中的混音现象,分析了不同数值范围内的溢出风险,并详细解析了Android系统中混音的具体实现方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

文章转载自http://blog.csdn.net/ffmpeg4976/article/details/45599467

Mix的意思是混音,无论在自然界,还是在音频处理领域这都是非常普遍的现象。自然界里你能同时听到鸟鸣和水声,这是因为鸟鸣和水声的波形在空气中形成了叠加,耳朵听到后能区分鸟鸣和水声这两种波形。

在数字音频领域也是一样,比如你也可以一边打CS一边听歌,这是因为计算机把两个声音波形做了叠加。但是不同的是,计算机中的叠加,很容易造成越界。

比如

int plus1(int num0, int num1){

return num0+num1;

}

如果赋值int num0=0x70000000和int num1=0x70000000,运行后的result是0xE0000000,变换为十进制为-536870912。两个正数相加得到了负数,结果自然是错的。

我们知道,一个char的补码所能表示的数值范围是[-128, 127],写成16进制是[0x80,0x7F]。而一个int的补码的范围是[0x80000000,0x7FFFFFFF]。超出这个范围就是溢出。

如何防止溢出呢?最简单的做法是拓宽存储数据的容器,比如:

long long plus1(int num0, int num1){

return (long long)num0+(long long)num1;

}

赋值int num0=0x70000000和int num1=0x70000000,运行后的result是0xE0000000,变换为十进制为3758096384。这次没有溢出。

1.2         公式

怎么能做到不溢出呢?考虑这个公式

Z=A+B−AB,

如果A和B都在[0,1]范围内,那么:

0<=(1-A)(1-B)=1-A-B+AB<=1,那么

0<=Z<=1

这样,如果我们把A,B看做是两个输入波形,Z看做是一个输出波形的话,Z的上界和下界也在A和B的上界和下界内。也就是说,Z是不会溢出的。

对于3个输入信号来说,按照(1-A)(1-B)(1-C)运算,易得

Z=A+B+C−AB−AC−BC+ABC.

而对于取值范围不在[0,1]的信号,可以先转化为[0,1]来做。

比如A,B均在[0,255]范围内,则A/255在[0,1]内,则

Z/255=A/255+B/255-(A/255)*(B/255),那么

Z=A+B-AB/255

对于有符号的数,取值范围在[-128,127],则A’=(A+128)/255取值在[0,1]内,则

Z’=A’+B’−A’*B’,代入可得

(Z+128)/255=(A+128)/255+(B+128)/255-(A+128)/255*(B+128)/255,则

Z=A+B-(A+128)(B+128)/255+128

这种算法可以认为是简单的对输入信号进行了相加,并为了避免溢出,压缩了两个信号的和的波形。但是这种算法有个致命的缺点,那就是当两个信号相加没有溢出时,这种算法仍然压缩了波形,导致音质受损。而且过多的加减乘除的运算,会提升整个系统的功耗和复杂性,也会在四舍五入中降低数据的精度。

说句题外话,为了避免运算中声音信号精度的丢失,目前业界高端音频处理系统里都是用32位float采样来进行运算的,而输出的时候转化为16bit。

1.3         Android做法

我们看看成熟的软件是怎么做的。AndroidMixerAudioMixer.cpp这个文件里,它针对不同的情况,有各种执行混音操作的函数,下面这个函数是处理无需重采样的立体声音频的。

voidAudioMixer::process__genericNoResampling(state_t* state, int64_t pts)

我们来看看它的处理方式:它是把各个track的声音数据相加。所谓声音数据,可以认为是一个个的采样点,Android默认支持的采样精度是16bit的,格式为signedPCM,所以每个采样点用有符号的16位数int16_t表示。如果直接加16bit的数据,肯定会造成16bit的值溢出,Android的做法是强转成int32_t,相加,并把和赋值给了32bit的数。注意,相加前乘上了音量,而表达音量的数据类型也是int32_t。这样,就能保证在这个过程中是不会溢出的。

voidAudioMixer::track__16BitsStereo(track_t* t, int32_t* out, size_t frameCount,

       int32_t* temp __unused, int32_t* aux){

int32_t vl =t->prevVolume[0];

nt32_t VR =t->prevVolume[1];

const int16_t*in = static_cast<const int16_t *>(t->in);

*out++ += (vl>> 16) * (int32_t) *in++;

*out++ += (vr>> 16) * (int32_t) *in++;

}

此时,混音后的数据已经存在out指向的buffer里了,然后再调用

convertMixerFormat(out, t1.mMixerFormat,outTemp, t1.mMixerInFormat, BLOCKSIZE * t1.mMixerChannelCount);

其中有函数ditherAndClamp,这个是把int32_t格式的源数据sums消减成int16_t,并把左右声道一起放入int32_t格式的out中。

void ditherAndClamp(int32_t* out, constint32_t *sums, size_t c)

{

size_t i;

    for (i=0 ; i<c ; i++) {

        int32_t l = *sums++;

        int32_t r = *sums++;

        int32_t nl = l >> 12;

        int32_t nr = r >> 12;

        l = clamp16(nl);

        r = clamp16(nr);

        *out++ = (r<<16) | (l & 0xFFFF);

    }

}

看它的做法,一个声道的32bit的输入,先右移12位,也就是保留前20位,然后clamp16(clamp是“夹”的意思)成16位,此时左右声道都是16位的了。然后再把右声道放高位,左声道放低位这么组成一个32bit的数。

下面看看clamp16到底做了什么:

static inline int16_t clamp16(int32_tsample)

{

   if ((sample>>15) ^ (sample>>31))

       sample = 0x7FFF ^ (sample>>31);

   return sample;

}

这个函数仅仅是把溢出部分粗暴的去掉了。下面的测试程序可以很直观的看出来:

int test()

{

   for(int i=32766; i<=32776; i++){

        int temp = clamp16(i);

        cout << "clamp16 tempInt = " << temp <<endl;

    }

   return 0;

}

输出是:


我们知道,16位的有符号数的上界是0x7FFF,也就是32767。通过测试结果发现,小于它的数得到了保留,如32766;而大于它的数都被夹(clamp)到了32767。

那么,为什么Android要这么做呢?为什么不去优雅的保留信号的波形,而是选择让它直接消减掉呢(尽管这样势必会造成听感上的Distortion)?

可能就是因为

1.    混音的情况比较少见

2.    混音后溢出的情况也比较少见

3.    如果努力去保留信号的波形,势必会造成上一节提出的问题

### 关于 SDL_mixer 音频库 #### 初始化与配置 为了初始化并使用 `SDL_mixer` 进行音频操作,在程序启动时需调用特定函数来设置环境。如果初始化失败,则返回值会小于零[^1]。 ```c if (Mix_OpenAudio(44100, MIX_DEFAULT_FORMAT, 2, 2048) < 0) { printf("Failed to initialize audio: %s\n", Mix_GetError()); } ``` 此代码片段展示了如何打开音频设备,其中参数分别为采样率、音频格式、声道数和缓冲区大小。 #### 功能特性概述 `SDL_mixer` 是一款跨平台的声音混合器库,能够轻松集成到基于 SDL 的项目中。该库不仅提供了多种声音效果的支持,而且兼容不同类型的音频文件格式,极大地方便了开发者的工作流程[^2]。 #### 扩展功能模块 作为 SDL 官方扩展之一,`SDL_mixer` 提供额外的声音处理能力,包括但不限于更丰富的输出选项和支持更多种类的音频编码方式。这使得应用程序可以更加灵活地处理多媒体资源[^3]。 #### 版本更新亮点 最新版本的 `SDL_mixer` 增加了许多新特性和改进之处,旨在提升用户体验的同时降低开发难度。例如,新版引入了一些优化措施以提高性能表现,并修复了之前存在的某些问题[^5]。 #### 获取帮助及参考资料 对于希望深入了解或应用 `SDL_mixer` 的用户来说,可以从官方渠道获取详细的 API 文档和技术支持资料。通常情况下,这类信息可以在项目的主页或者托管平台上找到,比如 GitHub 上的相关仓库链接。 #### 示例代码展示 下面给出一段简单的 C++ 程序用于演示如何利用 `SDL_mixer` 加载并播放 WAV 文件: ```cpp #include <iostream> #include "SDL.h" #include "SDL_mixer.h" int main(int argc, char* argv[]) { // Initialize the SDL library and mixer subsystem. if (SDL_Init(SDL_INIT_AUDIO) != 0 || Mix_OpenAudio(44100, MIX_DEFAULT_FORMAT, 2, 2048)) { std::cerr << "Unable to initialize SDL or Mixer!" << std::endl; return -1; } // Load a sound file into memory as a chunk of data that can be played back later on demand. Mix_Chunk *soundEffect = Mix_LoadWAV("example.wav"); if (!soundEffect){ std::cerr << "Could not load example.wav! SDL_mixer Error: " << Mix_GetError() << std::endl; return -1; } // Play the loaded sound effect once at full volume through channel zero (-1 means any available). Mix_PlayChannel(-1, soundEffect, 0); // Wait long enough so we hear our sound before quitting... SDL_Delay(3000); // Clean up resources when done playing sounds. Mix_FreeChunk(soundEffect); Mix_CloseAudio(); SDL_Quit(); return 0; } ``` 上述例子简单介绍了如何加载一个 `.wav` 格式的音频文件并通过指定通道进行回放。需要注意的是实际应用场景可能会涉及到更为复杂的逻辑控制和服务端口配置等问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值