【原创】
RFC3984是H.264的baseline码流在RTP方式下传输的规范,这里只讨论FU-A分包方式,以及从RTP包里面得到H.264数据和AAC数据的方法。
1、单个NAL包单元
12字节的RTP头后面的就是音视频数据,比较简单。一个封装单个NAL单元包到RTP的NAL单元流的RTP序号必须符合NAL单元的解码顺序。
2、FU-A的分片格式
数据比较大的H264视频包,被RTP分片发送。12字节的RTP头后面跟随的就是FU-A分片:
FU indicator有以下格式:
+---------------+
|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+
|F|NRI| Type |
+---------------+
FU指示字节的类型域 Type=28表示FU-A。。NRI域的值必须根据分片NAL单元的NRI域的值设置。
FU header的格式如下:
+---------------+
|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+
|S|E|R| Type |
+---------------+
S: 1 bit
当设置成1,开始位指示分片NAL单元的开始。当跟随的FU荷载不是分片NAL单元荷载的开始,开始位设为0。
E: 1 bit
当设置成1, 结束位指示分片NAL单元的结束,即, 荷载的最后字节也是分片NAL单元的最后一个字节。当跟随的FU荷载不是分片NAL单元的最后分片,结束位设置为0。
R: 1 bit
保留位必须设置为0,接收者必须忽略该位。
Type: 5 bits
NAL单元荷载类型定义见下表
表1. 单元类型以及荷载结构总结
Type Packet Type name
---------------------------------------------------------
0 undefined -
1-23 NAL unit Single NAL unit packet per H.264
24 STAP-A Single-time aggregation packet
25 STAP-B Single-time aggregation packet
26 MTAP16 Multi-time aggregation packet
27 MTAP24 Multi-time aggregation packet
28 FU-A Fragmentation unit
29 FU-B Fragmentation unit
30-31 undefined -
3、拆包和解包
拆包:当编码器在编码时需要将原有一个NAL按照FU-A进行分片,原有的NAL的单元头与分片后的FU-A的单元头有如下关系:
原始的NAL头的前三位为FU indicator的前三位,原始的NAL头的后五位为FU header的后五位,FU indicator与FU header的剩余位数根据实际情况决定。
解包:当接收端收到FU-A的分片数据,需要将所有的分片包组合还原成原始的NAl包时,FU-A的单元头与还原后的NAL的关系如下:
还原后的NAL头的八位是由FU indicator的前三位加FU header的后五位组成,即:
nal_unit_type = (fu_indicator & 0xe0) | (fu_header & 0x1f)
4、代码实现
从RTP包里面得到H264视频数据的方法:
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
功能:解码RTP H.264视频
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
参数:1.RTP包缓冲地址 2.RTP包数据大小 3.H264输出地址 4.输出数据大小
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
返回:true:表示一帧结束 false:FU-A分片未结束或帧未结束
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
#define RTP_HEADLEN 12
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
bool UnpackRTPH264(
void * bufIn,
int len,
void ** pBufOut,
int * pOutLen)
![](https://i-blog.csdnimg.cn/blog_migrate/83e7eae1993e7ee592fd15715f34ef57.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pOutLen = 0 ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
if (len < RTP_HEADLEN)
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
return false ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char * src = (unsigned char * )bufIn + RTP_HEADLEN;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char head1 = * src; // 获取第一个字节
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char head2 = * (src + 1 ); // 获取第二个字节
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char nal = head1 & 0x1f ; // 获取FU indicator的类型域,
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char flag = head2 & 0xe0 ; // 获取FU header的前三位,判断当前是分包的开始、中间或结束
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char nal_fua = (head1 & 0xe0 ) | (head2 & 0x1f ); // FU_A nal
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bool bFinishFrame = false ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
if (nal == 0x1c ) // 判断NAL的类型为0x1c=28,说明是FU-A分片
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{ // fu-a
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
if (flag == 0x80 ) // 开始
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pBufOut = src - 3 ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* (( int * )( * pBufOut)) = 0x01000000 ; // zyf:大模式会有问题
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* (( char * )( * pBufOut) + 4 ) = nal_fua;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pOutLen = len - RTP_HEADLEN + 3 ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
else if (flag == 0x40 ) // 结束
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pBufOut = src + 2 ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pOutLen = len - RTP_HEADLEN - 2 ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
else // 中间
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pBufOut = src + 2 ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pOutLen = len - RTP_HEADLEN - 2 ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
else // 单包数据
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pBufOut = src - 4 ;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* (( int * )( * pBufOut)) = 0x01000000 ; // zyf:大模式会有问题
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
* pOutLen = len - RTP_HEADLEN + 4 ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char * bufTmp = (unsigned char * )bufIn;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
if (bufTmp[ 1 ] & 0x80 )
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bFinishFrame = true ; // rtp mark
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
else
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bFinishFrame = false ;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
return bFinishFrame;
![](https://i-blog.csdnimg.cn/blog_migrate/7325b0f18b89a91add45cac758a7cb3b.gif)
}
从RTP包里面得到AAC音频数据的方法:
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
功能:解RTP AAC音频包,声道和采样频率必须知道。
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
参数:1.RTP包缓冲地址 2.RTP包数据大小 3.H264输出地址 4.输出数据大小
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
//
返回:true:表示一帧结束 false:帧未结束 一般AAC音频包比较小,没有分片。
![](https://i-blog.csdnimg.cn/blog_migrate/773ae66b7206f4db6286910ff9e6e4a8.gif)
bool UnpackRTPAAC(
void * bufIn,
int recvLen,
void** pBufOut,
int* pOutLen)
![](https://i-blog.csdnimg.cn/blog_migrate/83e7eae1993e7ee592fd15715f34ef57.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char* bufRecv = (unsigned char*)bufIn;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
//char strFileName[20];
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
unsigned char ADTS[] = {0xFF, 0xF1, 0x00, 0x00, 0x00, 0x00, 0xFC};
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
int audioSamprate = 32000;//音频采样率
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
int audioChannel = 2;//音频声道 1或2
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
int audioBit = 16;//16位 固定
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
switch(audioSamprate)
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
case 16000:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[2] = 0x60;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
case 32000:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[2] = 0x54;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
case 44100:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[2] = 0x50;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
case 48000:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[2] = 0x4C;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
case 96000:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[2] = 0x40;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
default:
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
break;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[3] = (audioChannel==2)?0x80:0x40;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
int len = recvLen - 16 + 7;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
len <<= 5;//8bit * 2 - 11 = 5(headerSize 11bit)
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
len |= 0x1F;//5 bit 1
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[4] = len>>8;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
ADTS[5] = len & 0xFF;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
*pBufOut = (char*)bufIn+16-7;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
memcpy(*pBufOut, ADTS, sizeof(ADTS));
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
*pOutLen = recvLen - 16 + 7;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
unsigned char* bufTmp = (unsigned char*)bufIn;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bool bFinishFrame = false;
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
if (bufTmp[1] & 0x80)
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
//DebugTrace::D("Marker");
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bFinishFrame = true;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
else
![](https://i-blog.csdnimg.cn/blog_migrate/eee1f5d949a2febc1195073b15d83c84.gif)
{
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
bFinishFrame = false;
![](https://i-blog.csdnimg.cn/blog_migrate/6dc3fe7f8bf4968d95592c6d180bd2f7.gif)
}
![](https://i-blog.csdnimg.cn/blog_migrate/dfb2de336ec3b73b1a96a6048f939cdf.gif)
return true;
![](https://i-blog.csdnimg.cn/blog_migrate/7325b0f18b89a91add45cac758a7cb3b.gif)
}
来自
http://www.cnweblog.com/fly2700/archive/2012/02/23/319718.html