FFMPEG结构体分析 AVFrame

AVFrame是包含码流参数较多的结构体。

AVFrame结构体一般用于存储原始数据（即非压缩数据，例如对视频来说是YUV，RGB，对音频来说是PCM），此外还包含了一些相关的信息。比如说，解码的时候存储了宏块类型表，QP表，运动矢量表等数据。编码的时候也存储了相关的数据。因此在使用FFMPEG进行码流分析的时候，AVFrame是一个很重要的结构体。

下面看几个主要变量的作用（在这里考虑解码的情况）：

uint8_t *data[AV_NUM_DATA_POINTERS]：  解码后原始数据（对视频来说是YUV，RGB，对音频来说是PCM）

int linesize[AV_NUM_DATA_POINTERS]：      data的大小

int width, height：                                            视频帧宽和高（1920x1080,1280x720...）

int nb_samples：                                             音频的一个AVFrame中可能包含多个音频帧，在此标记包含了几个

int format：                                                      解码后原始数据类型（YUV420，YUV422，RGB24...）

int key_frame：                                               是否是关键帧

enum AVPictureType pict_type：                    帧类型（I,B,P...）

AVRational sample_aspect_ratio：                 宽高比（16:9，4:3...）

int64_t pts：                                                    显示时间戳

int coded_picture_number：                           编码帧序号

int display_picture_number：                          显示帧序号

int8_t *qscale_table：                                      QP表

uint8_t *mbskip_table：                                   跳过宏块表

int16_t (*motion_val[2])[2]：                            运动矢量表

uint32_t *mb_type：                                        宏块类型表

short *dct_coeff：                                            DCT系数，这个没有提取过

int8_t *ref_index[2]：                                       运动估计参考帧列表（貌似H.264这种比较新的标准才会涉及到多参考帧）

int interlaced_frame：                                     是否是隔行扫描

uint8_t motion_subsample_log2：                  一个宏块中的运动矢量采样个数，取log的

其他的变量不再一一列举，源代码中都有详细的说明。在这里重点分析一下几个需要一定的理解的变量：

1.data[]

对于packed格式的数据（例如RGB24），会存到data[0]里面。

对于planar格式的数据（例如YUV420P），则会分开成data[0]，data[1]，data[2]...（YUV420P中data[0]存Y，data[1]存U，data[2]存V）

2.pict_type

包含以下类型：

[cpp]  view plain copy

1. enum AVPictureType {  
2.     AV_PICTURE_TYPE_NONE = 0, ///< Undefined  
3.     AV_PICTURE_TYPE_I,     ///< Intra  
4.     AV_PICTURE_TYPE_P,     ///< Predicted  
5.     AV_PICTURE_TYPE_B,     ///< Bi-dir predicted  
6.     AV_PICTURE_TYPE_S,     ///< S(GMC)-VOP MPEG4  
7.     AV_PICTURE_TYPE_SI,    ///< Switching Intra  
8.     AV_PICTURE_TYPE_SP,    ///< Switching Predicted  
9.     AV_PICTURE_TYPE_BI,    ///< BI type  
10. };  

3.sample_aspect_ratio

宽高比是一个分数，FFMPEG中用AVRational表达分数：

[cpp]  view plain copy

1. /** 
2.  * rational number numerator/denominator 
3.  */  
4. typedef struct AVRational{  
5.     int num; ///< numerator  
6.     int den; ///< denominator  
7. } AVRational;  

4.qscale_table

QP表指向一块内存，里面存储的是每个宏块的QP值。宏块的标号是从左往右，一行一行的来的。每个宏块对应1个QP。

qscale_table[0]就是第1行第1列宏块的QP值；qscale_table[1]就是第1行第2列宏块的QP值；qscale_table[2]就是第1行第3列宏块的QP值。以此类推...

宏块的个数用下式计算：

注：宏块大小是16x16的。

每行宏块数：

[cpp]  view plain copy

1. int mb_stride = pCodecCtx->width/16+1  

宏块的总数：

[cpp]  view plain copy

1. int mb_sum = ((pCodecCtx->height+15)>>4)*(pCodecCtx->width/16+1)  

5.motion_subsample_log2

1个运动矢量所能代表的画面大小（用宽或者高表示，单位是像素），注意，这里取了log2。

代码注释中给出以下数据：

4->16x16, 3->8x8, 2-> 4x4, 1-> 2x2

即1个运动矢量代表16x16的画面的时候，该值取4；1个运动矢量代表8x8的画面的时候，该值取3...以此类推

6.motion_val

运动矢量表存储了一帧视频中的所有运动矢量。

该值的存储方式比较特别：

[cpp]  view plain copy

1. int16_t (*motion_val[2])[2];  

为了弄清楚该值究竟是怎么存的，花了我好一阵子功夫...

注释中给了一段代码：

[cpp]  view plain copy

1. int mv_sample_log2= 4 - motion_subsample_log2;  
2. int mb_width= (width+15)>>4;  
3. int mv_stride= (mb_width << mv_sample_log2) + 1;  
4. motion_val[direction][x + y*mv_stride][0->mv_x, 1->mv_y];  

大概知道了该数据的结构：

1.首先分为两个列表L0和L1

2.每个列表（L0或L1）存储了一系列的MV（每个MV对应一个画面，大小由motion_subsample_log2决定）

3.每个MV分为横坐标和纵坐标（x,y）

注意，在FFMPEG中MV和MB在存储的结构上是没有什么关联的，第1个MV是屏幕上左上角画面的MV（画面的大小取决于motion_subsample_log2），第2个MV是屏幕上第1行第2列的画面的MV，以此类推。因此在一个宏块（16x16）的运动矢量很有可能如下图所示（line代表一行运动矢量的个数）：

[cpp]  view plain copy

1. //例如8x8划分的运动矢量与宏块的关系：  
2.                 //-------------------------  
3.                 //|          |            |  
4.                 //|mv[x]     |mv[x+1]     |  
5.                 //-------------------------  
6.                 //|          |            |  
7.                 //|mv[x+line]|mv[x+line+1]|  
8.                 //-------------------------  

7.mb_type

宏块类型表存储了一帧视频中的所有宏块的类型。其存储方式和QP表差不多。只不过其是uint32类型的，而QP表是uint8类型的。每个宏块对应一个宏块类型变量。

宏块类型如下定义所示：

[cpp]  view plain copy

1. //The following defines may change, don't expect compatibility if you use them.  
2. #define MB_TYPE_INTRA4x4   0x0001  
3. #define MB_TYPE_INTRA16x16 0x0002 //FIXME H.264-specific  
4. #define MB_TYPE_INTRA_PCM  0x0004 //FIXME H.264-specific  
5. #define MB_TYPE_16x16      0x0008  
6. #define MB_TYPE_16x8       0x0010  
7. #define MB_TYPE_8x16       0x0020  
8. #define MB_TYPE_8x8        0x0040  
9. #define MB_TYPE_INTERLACED 0x0080  
10. #define MB_TYPE_DIRECT2    0x0100 //FIXME  
11. #define MB_TYPE_ACPRED     0x0200  
12. #define MB_TYPE_GMC        0x0400  
13. #define MB_TYPE_SKIP       0x0800  
14. #define MB_TYPE_P0L0       0x1000  
15. #define MB_TYPE_P1L0       0x2000  
16. #define MB_TYPE_P0L1       0x4000  
17. #define MB_TYPE_P1L1       0x8000  
18. #define MB_TYPE_L0         (MB_TYPE_P0L0 | MB_TYPE_P1L0)  
19. #define MB_TYPE_L1         (MB_TYPE_P0L1 | MB_TYPE_P1L1)  
20. #define MB_TYPE_L0L1       (MB_TYPE_L0   | MB_TYPE_L1)  
21. #define MB_TYPE_QUANT      0x00010000  
22. #define MB_TYPE_CBP        0x00020000  
23. //Note bits 24-31 are reserved for codec specific use (h264 ref0, mpeg1 0mv, ...)  

一个宏块如果包含上述定义中的一种或两种类型，则其对应的宏块变量的对应位会被置1。
注：一个宏块可以包含好几种类型，但是有些类型是不能重复包含的，比如说一个宏块不可能既是16x16又是8x8。

8.ref_index

运动估计参考帧列表存储了一帧视频中所有宏块的参考帧索引。这个列表其实在比较早的压缩编码标准中是没有什么用的。只有像H.264这样的编码标准才有多参考帧的概念。但是这个字段目前我还没有研究透。只是知道每个宏块包含有4个该值，该值反映的是参考帧的索引。以后有机会再进行细研究吧。

在这里展示一下自己做的码流分析软件的运行结果。将上文介绍的几个列表图像化显示了出来（在这里是使用MFC的绘图函数画出来的）

视频帧：

QP参数提取的结果：

美化过的（加上了颜色）：

宏块类型参数提取的结果：

美化过的（加上了颜色，更清晰一些，s代表skip宏块）：

运动矢量参数提取的结果（在这里是List0）：

运动估计参考帧参数提取的结果：

转载：http://blog.csdn.net/leixiaohua1020/article/details/14214577