Part 1flvtag组成
FLV 文件结构由 FLVheader和FLVBody组成。(注意flv文件是大端格式的)
FLV头组成(以c为例子,一字节对齐):
typedef struct _FLV_HEADER
{
char FLV[3];//={0x46,0x4c,0x56};
char Ver; //版本号
char StreamInfo;// 有视频又有音频就是0x01 | 0x04(0x05)
int HeaderLen; /*****头的长度*****/
} FLV_HEADER;
FLVBody是由若干个Tag组成的;
Tag=Tag头(11字节)+数据
typedef struct _FLV_TAG_HEADER
{
int PreTagLen; /*******上一个Tag长度********/ // 4
char TagType; //音频(0x8),视频(0x9),脚本(0x12) // 1
char TagDtatLen[3];//数据区长度 3字节
char Timestamp[3];//时间戳 3字节
char ExpandTimeStamp;//是扩展时间戳 1字节
char streamID[3];//流Id可以为0 3字节
}FLV_TAG_HEADER;
Part2 h264
H264是一个个NALU单元组成的,每个单元以00 00 01 或者 00 00 00 01分隔开来,每2个00 00 00 01之间就是一个NALU单元。我们实际上就是将一个个NALU单元封装进FLV文件。
每个NALU单元开头第一个byte的低5bits表示着该单元的类型,即NAL nal_unit_type:
#define NALU_TYPE_SLICE 1
#define NALU_TYPE_DPA 2
#define NALU_TYPE_DPB 3
#define NALU_TYPE_DPC 4
#define NALU_TYPE_IDR 5 /**关键帧***/
#define NALU_TYPE_SEI 6 /*****曾强帧******/
#define NALU_TYPE_SPS 7
#define NALU_TYPE_PPS 8
#define NALU_TYPE_AUD 9
#define NALU_TYPE_EOSEQ 10
#define NALU_TYPE_EOSTREAM 11
#define NALU_TYPE_FILL 12
每个NALU第一个byte & 0x1f 就可以得出它的类型,比如上图第一个NALU:67 & 0x1f = 7,则此单元是SPS,第三个:68 & 0x1f = 8,则此单元是PPS。
Part3 h264 封装flv
我们现在开始把H264,AAC封装为FLV文件。
首先定义一个函数(功能反向拷贝):
void ReverseMemcpy(void* dest,size_t destLen, const void* src, size_t n)
{
char* d= (char*) dest;
const char* s= (const char*)src;
s=s+n-1;
while(n--&&destLen--)
{
*d++=*s--;
}
return dest;
}
1.写入FLV头。
2.写入FLV脚本Tag;
3.由于分装的是H264,AAC所以所写入一个视频配置信息,和一个音频配置信息
3.写入视频Tag.由于是H264,Tag的数据就需要按照AVC格式封装。Tag数据区有两种,一种是视频(0x17),一种是音频(0x27)。
AVC格式:AVCPacketType(1字节)+CompositionTime(3字节)
如果AVCPacketType=0x00,这格式为AVCPacketType(1字节)+CompositionTime(3字节)+AVCDecoderConfigurationRecord。
如果AVCPacketType=0x01,这格式为AVCPacketType(1字节)+CompositionTime(3字节)+ 4个bytes的NALU单元长度 + N个bytes的NALU数据。
AVCDecoderConfigurationRecord结构信息
typedef struct _AVC_DEC_CON_REC
{
char cfgVersion;//configurationVersion //0x01
char avcProfile;//AVCProfileIndication //sps[1]
char profileCompatibility;//profile_Compatibility //sps[2]
char avcLevel;//AVCLevelIndication //sps[3]
//lengthSizeMinusOne:indicates the length in bytes of the NALUnitLength field in an AVC video
char reserved6_lengthSizeMinusOne2;//
char reserved3_numOfSPS5;//个数
long spsLength;//sequenceParameterSetLength
void *sps;
char numOfPPS;//个数
long ppsLength;
void *pps;
}AVC_DEC_CON_REC;
char *pH264Data=....;//h264数据。
int H264DataLen=....;//h264数据长度
FLV_TAG_HEADER tagHeader;
char AVCPacket[4]={0x00,0x00,0x00,0x00}
memset(tagHeader,0,sizeof(FLV_TAG_HEADER));
int Index=0;//分隔符长度
if(*pH264Data==0x00&&(*pH264Data+1)==0x00&&(*pH264Data+2)==0x01)
{
Index=3;
}else if(*pH264Data==0x00&&(*pH264Data+1)==0x00&&(*pH264Data+2)==0x00&&(*pH264Data+4)==0x01)
{
Index=4;
}else{
Err//错误不是h264数据
}
if(*(pH264Data+Index)&0x1f==0x07)//sps帧,此h264数据还有一帧,pps。
{
int PreTagLen=.....//前一个Tag长度
ReverseMemcpy(&tagHeader.PreTagLen,4,&PreTagLen,4);//大端字节序;
tagHeader.TagType=0x09;//视频类型
//AVCPacket应全为0x00.
}
part 4.音频AAC封装flv。
AAC音频格式有ADIF和ADTS:ADIF:Audio Data Interchange Format 音频数据交换格式。这种格式的特征是可以确定的找到这个音频数据的开始,不需进行在音频数据流中间开始的解码,即它的解码必须在明确定义的开始处进行。故这种格式常用在磁盘文件中。ADTS:Audio Data Transport Stream 音频数据传输流。这种格式的特征是它是一个有同步字的比特流,解码可以在这个流中任何位置开始。它的特征类似于mp3数据流格式。简单说,ADTS可以在任意帧解码,也就是说它每一帧都有头信息。ADIF只有一个统一的头,所以必须得到所有的数据后解码。且这两种的header的格式也是不同的,目前一般编码后的和抽取出的都是ADTS格式的音频流。语音系统对实时性要求较高,基本是这样一个流程,采集音频数据,本地编码,数据上传,服务器处理,数据下发,本地解码ADTS是帧序列,本身具备流特征,在音频流的传输与处理方面更加合适。
因此我们在音频编码时常选择ADTS的,以下是我们常用的配置
m_hAacEncoder= faacEncOpen(capability.nSamplesPerSec,capability.nChannels,
&m_nAacInputSamples, &m_nAacMaxOutputBytes);
m_nAacnMaxInputBytes=m_nAacInputSamples*capability.wBitsPerSample/8;
m_pAacConfig = faacEncGetCurrentConfiguration(m_hAacEncoder);//获取配置结构指针
m_pAacConfig->inputFormat = FAAC_INPUT_16BIT;//16精度
m_pAacConfig->outputFormat=1; // 设置为 ADTS
m_pAacConfig->useTns=true;
m_pAacConfig->useLfe=false;
m_pAacConfig->aacObjectType=LOW;
m_pAacConfig->shortctl=SHORTCTL_NORMAL;
m_pAacConfig->quantqual=100;
m_pAacConfig->bandWidth=0;
m_pAacConfig->bitRate=capability.nAvgBytesPerSec;
对于flv的aac音频和视频一样需要在第一帧写入配置信息。
flv_packet flvpacket=GetErrPacket();
int TagDataLen=1000;
char *pTagBuffer=(char *)::malloc(TagDataLen);
memset(pTagBuffer,0,TagDataLen);
KKMEDIA::FLV_TAG_HEADER Tag_Head;
memset(&Tag_Head,0,sizeof(Tag_Head));
FlvMemcpy(&Tag_Head.PreTagLen,4,&m_nPreTagLen,4);
memset(&Tag_Head.Timestamp,0,3);
Tag_Head.TagType=0x08;///音频
int datalen=0;
memcpy(pTagBuffer,&Tag_Head,sizeof(KKMEDIA::FLV_TAG_HEADER));
datalen+=sizeof(KKMEDIA::FLV_TAG_HEADER);
//前4bits表示音频格式(全部格式请看官方文档):
//1 -- ADPCM
//2 -- MP3
//4 -- Nellymoser 16-kHz mono
//5 -- Nellymoser 8-kHz mono
//10 -- AAC
//面两个bits表示samplerate:
//·0 -- 5.5KHz
//·1 -- 11kHz
//·2 -- 22kHz
//·3 -- 44kHz 1100=0x0C
//下面1bit表示采样长度:
//·0 -- snd8Bit
//·1 -- snd16Bit
//下面1bit表示类型:
//·0 -- sndMomo
//·1 -- sndStereo
char TagAudio=0xAF; //1010,11,1,1
//TagAudio &=0x0C;//3
//TagAudio &=0x02;//1
//TagAudio &=0x01;//sndStereo
memcpy(pTagBuffer+datalen,&TagAudio,1);
datalen++;
char AACPacketType=0x00;//012->
memcpy(pTagBuffer+datalen,&AACPacketType,1);
datalen++;
///两个字节
char AudioSpecificConfig[2]={0x12,0x90};///32000hz
memcpy(pTagBuffer+datalen,&AudioSpecificConfig,2);
datalen+=2;
m_nPreTagLen=datalen-4;///(tag长度值)
TagDataLen=datalen-15;//(11+4(tag长度值+tag的头)
//Tag 数据区长度
FlvMemcpy(pTagBuffer+5,3,&TagDataLen,3);
flvpacket.buf =(unsigned char*)pTagBuffer;
flvpacket.bufLen=datalen;
flvpacket.taglen=m_nPreTagLen;
return flvpacket;
关于上面的代码中AudioSpecificConfig的值是怎样计算来的,可以直接中aac编码库中获取,或者采用公式计算出来,请看一下代码。
///索引表
static unsigned const samplingFrequencyTable[16] = {
96000, 88200, 64000, 48000,
44100, 32000, 24000, 22050,
16000, 12000, 11025, 8000,
7350, 0, 0, 0
};
int profile=1;
int samplingFrequencyIndex=0;
for(int i=0;i<16;i++)
{
if(samplingFrequencyTable[i]==32000)
{
samplingFrequencyIndex =i;
break;
}
}
char channelConfiguration =0x02;//(立体声)
UINT8 audioConfig[2] = {0};
UINT8 const audioObjectType = profile + 1; ///其中profile=1;
audioConfig[0] = (audioObjectType<<3) | (samplingFrequencyIndex>>1);
audioConfig[1] = (samplingFrequencyIndex<<7) | (channelConfiguration<<3);
printf("%02x%02x", audioConfig[0], audioConfig[1]);
最后就写入aac帧数据了,请看以下代码:
flv_packet flvpacket=GetErrPacket();
int TagDataLen=1000+srcLen;
char *pTagBuffer=(char *)::malloc(TagDataLen);
memset(pTagBuffer,0,TagDataLen);
KKMEDIA::FLV_TAG_HEADER Tag_Head;
memset(&Tag_Head,0,sizeof(Tag_Head));
//FlvMemcpy等同于ReverseMemcpy
FlvMemcpy(&Tag_Head.PreTagLen,4,&m_nPreTagLen,4);
FlvMemcpy(&Tag_Head.Timestamp,3,&pts,3);
Tag_Head.TagType=0x08;///音频
int datalen=0;
memcpy(pTagBuffer,&Tag_Head,sizeof(KKMEDIA::FLV_TAG_HEADER));
datalen+=sizeof(KKMEDIA::FLV_TAG_HEADER);
char TagAudio=0xAF;
memcpy(pTagBuffer+datalen,&TagAudio,1);
datalen++;
char AACPacketType=0x01;
memcpy(pTagBuffer+datalen,&AACPacketType,1);
datalen++;
//src aac数据指针(不包含ADTS头长度),srcLenAAC数据长度
memcpy(pTagBuffer+datalen,src,srcLen);
datalen+=srcLen;
m_nPreTagLen=datalen-4;///(tag长度值)
TagDataLen=datalen-15;//(11+4(tag长度值+tag的头)
//Tag 数据区长度
FlvMemcpy(pTagBuffer+5,3,&TagDataLen,3);
flvpacket.buf =(unsigned char*)pTagBuffer;
flvpacket.bufLen=datalen;
flvpacket.taglen=m_nPreTagLen;
return flvpacket;
注意在使用ADTS头输出的AAC编码数据,在打包flv格式时,需要跳过其adts头长度(7字节)。
例如:
AudioPacket((const unsigned char *)(pDataNALU+7),PktSize-7,Pts);