音视频编解码思路
主要借自己开发音视频编解码的经验谈谈思路,希望可以帮助刚接触音视频编解码的猿们:
- 音视频的原始数据格式
- YUV数据之间的转换
- MediaCodec 将原始音视频数据编码
- 音视频两者之间的封装
- 推流协议的一些说明
音视频的原始数据格式
经过自己长达两个多月的摸索,现在大体明白了音视频数据的在每一步之间的格式是什么了!首先,Android调用本地的摄像头以及麦克风采集的原始数据,视频是YUV或者RGB格式的。这种格式的数据量是十分庞大的,所以这就说明了为什么需要后面的音视频编码压缩等问题了,目的就是节约空间,提高传输速率;音频经过麦克风采集后是PCM格式的。这是采集的最原始的数据。
使用时记得在清单文件添加需要的权限就可以:
<uses-permission android:name="android.permission.CAMERA" />
<uses-permission android:name="android.permission.RECORD_AUDIO" />
视频最原始的数据获取是十分简单地.此时数据格式:视频:NV21,音频:PCM
YUV数据之间的转换
起初,我也一直不明白,我的是原格式是NV21的,怎么又换成YUV420SP的了?当时真的一头雾水,无奈只能自己继续摸索。在YUV这个大家族里