用实例分析H264 RTP payload(RTSP参数分析)

最新推荐文章于 2024-08-05 00:00:00 发布
最新推荐文章于 2024-08-05 00:00:00 发布
阅读量1.7k 收藏
点赞数
分类专栏： 流媒体

H264的RTP中有三种不同的基本负载（Single NAL,Non-interleaved,Interleaved)

应用程序可以使用第一个字节来识别。

 

在SDP中也说明了本次会话的属性

SDP 参数 
下面描述了如何在 SDP 中表示一个 H.264 流:
. "m=" 行中的媒体名必须是 "video"
. "a=rtpmap" 行中的编码名称必须是 "H264".
. "a=rtpmap" 行中的时钟频率必须是 90000.
. 其他参数都包括在 "a=fmtp" 行中.
如:
m=video 49170 RTP/AVP 98
a=rtpmap:98 H264/90000
a=fmtp:98 profile-level-id=42A01E; packetization-mode=1; sprop-parameter-sets=Z0IACpZTBYmI,aMljiA==

下面介绍一些常用的参数.
3.1 packetization-mode: 
表示支持的封包模式. 
当 packetization-mode 的值为 0 时或不存在时, 必须使用单一 NALU 单元模式.
当 packetization-mode 的值为 1 时必须使用非交错(non-interleaved)封包模式.

当 packetization-mode 的值为 2 时必须使用交错(interleaved)封包模式.

 

 

每个打包方式允许的NAL单元类型总结(yes = 允许, no = 不允许, ig = 忽略)
      Type   Packet    Single NAL    Non-Interleaved    Interleaved
                       Unit Mode           Mode             Mode
      -------------------------------------------------------------

      0      undefined     ig               ig               ig
      1-23   NAL unit     yes              yes               no
      24     STAP-A        no              yes               no
      25     STAP-B        no               no              yes
      26     MTAP16        no               no              yes
      27     MTAP24        no               no              yes
      28     FU-A          no              yes              yes
      29     FU-B          no               no              yes
      30-31  undefined     ig               ig               ig


这个参数不可以取其他的值.

3.2 sprop-parameter-sets: SPS,PPS
这个参数可以用于传输 H.264 的序列参数集和图像参数 NAL 单元. 这个参数的值采用 Base64 进行编码. 不同的参数集间用","号隔开.


3.3 profile-level-id:
这个参数用于指示 H.264 流的 profile 类型和级别. 由 Base16(十六进制) 表示的 3 个字节. 第一个字节表示 H.264 的 Profile 类型, 第三个字节表示 H.264 的 Profile 级别:

3.4 max-mbps: 
这个参数的值是一个整型, 指出了每一秒最大的宏块处理速度.

 

Rtp payload的第一个字节和264的NALU类似

 

+---------------+
|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+
|F|NRI| Type    |
+---------------+

 

F: 1 个比特.

forbidden_zero_bit. 在 H.264 规范中规定了这一位必须为 0.

NRI: 2 个比特.

nal_ref_idc. 取 00 ~ 11, 似乎指示这个 NALU 的重要性, 如 00 的 NALU 解码器可以丢弃它而不影响图像的回放. 不过一般情况下不太关心这个属性.

Type: 5 个比特.

nal_unit_type. 这个 NALU 单元的类型. 简述如下:
0     没有定义
1-23 NAL单元 单个 NAL 单元包.
24    STAP-A   单一时间的组合包
24    STAP-B   单一时间的组合包
26    MTAP16   多个时间的组合包
27    MTAP24   多个时间的组合包
28    FU-A     分片的单元
29    FU-B     分片的单元
30-31 没有定义

例子：

0x5C=01011100 (F:0  NRI:10  Type:28) FU-A

0x41=01000001 (F:0  NRI:10  Type:01)Single NAL

0x68=01000100 (F:0  NRI:10  Type:08)Single NAL

 

Single NAL Unit Mode :Type[1-23] packetization-mode=0


对于 NALU 的长度小于 MTU 大小的包, 一般采用单一 NAL 单元模式.
对于一个原始的 H.264 NALU 单元常由 [Start Code] [NALU Header] [NALU Payload] 三部分组成, 其中 Start Code 用于标示这是一个 NALU 单元的开始, 必须是 "00 00 00 01" 或 "00 00 01", NALU 头仅一个字节, 其后都是 NALU 单元内容.
打包时去除 "00 00 01" 或 "00 00 00 01" 的开始码, 把其他数据封包的 RTP 包即可.

 

 

 

 

Non-interleaved Mode:Type[1-23,24,28] packetization-mode=1

       Type=[1-23]的情况 参照 packetization-mode=0

Type=28 FU-A

+---------------+---------------+
|0|1|2|3|4|5|6|7|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|F|NRI| Type:28 |S|E|R| Type    |
+---------------+---------------+

 

S:开始标志

E:结束标志 (与 Mark相同）

R:必须为0

 

Type:h264的NALU Type

 

例：

 

0x7C85=01111100 10000101 (开始包)

0x7C05=01111100 00000101 (中间包)

0x7C45=01111100 01000101 (结束包)


Type=23  STAP-A

0               1             2                 3
|0 1 2 3 4 5 6 7|8 9 0 1 2 3 4|5 6 7 8 9 0 1 2 3|4 5 6 7 8 9 0 1
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                          RTP Header                           |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|STAP-A NAL HDR |         NALU 1 Size           | NALU 1 HDR    |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                         NALU 1 Data                           |
:                                                               :
+               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|               | NALU 2 Size                   | NALU 2 HDR    |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                         NALU 2 Data                           |
:                                                               :
|                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                               :...OPTIONAL RTP padding        |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

 

[cpp]  view plain  copy
  1. class H264NALUParser    
  2. {  
  3. public:  
  4.     H264NALUParser(int width , int height);  
  5.     H264NALUParser();  
  6.     virtual ~H264NALUParser();  
  7.     void SetBuffer(unsigned char * buffer,int len,int f,int nri,int type);  
  8.     BOOL readOnePacket(unsigned char * buffer,int &len);  
  9.     BOOL isPacketOutstanding();  
  10. private:  
  11.     unsigned char * m_pNaluBuffer;  // NALU数据指向的缓冲区的指针  
  12.     unsigned int m_nNaluSize;       // NALU数据缓冲区的大小  
  13.     unsigned char * m_pCurNaluPos;  //指向下一个数据包要读取的缓冲区指针  
  14.     int m_nFrameWidth;  
  15.     int m_nFrameHeight;  
  16.     int m_nPacketCounts;  
  17.     int m_nPacketSeqNum;  
  18.     int m_nF;  
  19.     int m_nNRI;  
  20.     int m_nType;  
  21.     enum {  
  22.         STAP_A = 24,  
  23.         STAP_B = 25,  
  24.         MTAP16 = 26,  
  25.         MTAP24 = 27,  
  26.         FU_A   = 28,  
  27.         FU_B   = 29  
  28.     };  
  29. };    
  30.   
  31. // class H264NALUParser /  
  32. H264NALUParser::H264NALUParser(int width , int height)  
  33. {  
  34.     m_nFrameWidth   = width;  
  35.     m_nFrameHeight  = height;  
  36.     m_pNaluBuffer   = NULL;  
  37.     m_nNaluSize     = 0;  
  38.     m_nPacketCounts = 0;  
  39.     m_nPacketSeqNum = 0;  
  40.     m_nF            = 0;  
  41.     m_nNRI          = 0;  
  42.     m_nType         = 0;  
  43. }  
  44. H264NALUParser::H264NALUParser()  
  45. {  
  46.     m_pNaluBuffer   = NULL;  
  47.     m_nNaluSize     = 0;  
  48.     m_nPacketCounts = 0;  
  49.     m_nPacketSeqNum = 0;  
  50.     m_nF            = 0;  
  51.     m_nNRI          = 0;  
  52.     m_nType         = 0;  
  53. }  
  54. H264NALUParser::~H264NALUParser()  
  55. {  
  56. }  
  57. void H264NALUParser::SetBuffer(unsigned char * buffer,int len,int f,int nri,int type)  
  58. {  
  59.     m_pNaluBuffer   = buffer;  
  60.     m_nNaluSize     = len;  
  61.     m_nF            = f;  
  62.     m_nNRI          = nri;  
  63.     m_nType         = type;  
  64.     m_pCurNaluPos   = m_pNaluBuffer;  
  65.     m_nPacketCounts = (m_nNaluSize + H264_MTU - 1) / H264_MTU;  
  66.     m_nPacketSeqNum = 0;  
  67. }  
  68. BOOL H264NALUParser::readOnePacket(unsigned char * buffer,int &len)  
  69. {  
  70.     if(m_pCurNaluPos >= m_pNaluBuffer + m_nNaluSize)  
  71.     {  
  72.         return FALSE;  
  73.     }  
  74.     struct h264_rtp_hdr header;  
  75.     int headersize;  
  76.     unsigned char * pCurBuf = buffer;  
  77.     if(m_nNaluSize <= H264_MTU)// Single NALU  
  78.     {  
  79.         header.SingleNALU.f     = m_nF;  
  80.         header.SingleNALU.nri   = m_nNRI;  
  81.         header.SingleNALU.type  = m_nType;  
  82.         headersize = sizeof(header.SingleNALU);  
  83.         memcpy(pCurBuf,&(header.SingleNALU),headersize);  
  84.         pCurBuf += headersize;  
  85.     }  
  86.     else// FU-A  
  87.     {  
  88.         header.FU_A.f           = m_nF;  
  89.         header.FU_A.nri         = m_nNRI;  
  90.         header.FU_A.type_indicator  = FU_A;  
  91.         if(0 == m_nPacketSeqNum)  
  92.         {  
  93.             header.FU_A.s       = 1;  
  94.         }  
  95.         else  
  96.         {  
  97.             header.FU_A.s       = 0;  
  98.         }  
  99.         if(m_nPacketSeqNum == m_nPacketCounts - 1)  
  100.         {  
  101.             header.FU_A.e       = 1;  
  102.         }  
  103.         else  
  104.         {  
  105.             header.FU_A.e       = 0;  
  106.         }  
  107.         header.FU_A.r           = 0;  
  108.         header.FU_A.type_header = m_nType;  
  109.         //  
  110.         headersize = sizeof(header.FU_A);  
  111.         memcpy(pCurBuf,&(header.FU_A),headersize);  
  112.         pCurBuf += headersize;  
  113.     }  
  114.     if(m_nPacketSeqNum < m_nPacketCounts - 1)  
  115.     {  
  116.         memcpy(pCurBuf,m_pCurNaluPos,H264_MTU);  
  117.         m_pCurNaluPos += H264_MTU;  
  118.         len = headersize + H264_MTU;  
  119.     }  
  120.     else  
  121.     {  
  122.         int remainLen = m_nNaluSize % H264_MTU;  
  123.         if(0 == remainLen)  
  124.         {  
  125.             remainLen = H264_MTU;  
  126.         }  
  127.         memcpy(pCurBuf,m_pCurNaluPos,remainLen);  
  128.         m_pCurNaluPos += remainLen;  
  129.         len = headersize + remainLen;  
  130.     }  
  131.     m_nPacketSeqNum ++;  
  132.     return TRUE;  
  133. }  
  134. BOOL H264NALUParser::isPacketOutstanding()  
  135. {  
  136.     return (m_nPacketSeqNum < m_nPacketCounts);  
  137. }  

Interleaved Mode:Type[26-29] packetization-mode=2

 

待续

 

STAP-B

MTAP16

MTAP24

FU-B

转：http://blog.csdn.net/zblue78/article/details/5948538

lostyears
关注
专栏目录
wireshark抓rtsp rtp rtcp包手把手教你分析包结构 H264 H265
weixin_44834554的博客
10-13 4586
在安防行业中，onvif协议与gb协议是两种标准，gb是国内安防行业的标准，onvif是国外的安防行业的标准，其中gb28181中视频流是ps流、由设备、下级平台推送到上级平台，具有上公有云的特点，而onvif视频流采用的是rtsp,通常用于内网访问，当需要rtsp流可以上公有云的话，可以使用r-rtsp，r-rtsp交互流程正好与rtsp流程相反，由服务端主动发起请求。本文主要讲解了RTSP的主要流程以及RTP,RTCP的包分析，本文主要介绍的H264的包结构，希望能够让你对rtsp有个深刻的认识。
【H.264】RTP h264 码流 实例解析分析 2 : mediasoup收包
突围
10-31 216
rtp
用实例分析H264 RTP payload
热门推荐
代码人生
10-18 3万+
H264的RTP中有三种不同的基本负载（Single NAL,Non-interleaved,Interleaved)应用程序可以使用第一个字节来识别。在SDP中也说明了本次会话的属性SDP 参数 下面描述了如何在 SDP 中表示一个 H.264 流: . "m=" 行中的媒体名必须是 "video" . "a=rtpmap" 行中的编码名称必须是 "H264". . "a=rtpmap" 行中的时钟频率必须是 90000. . 其他参数都包括在 "a=fmtp" 行中. 如:m=video 4
RTSP系列一：RTSP协议介绍
最新发布
不定期更新关于音视频的文章
08-05 3711
RTSP（Real Time Streaming Protocol），实时流传输协议，是TCP/IP 协议体系中的一个应用层协议，由哥伦比亚大学、网景和RealNetworks 公司提交的IETF RFC 标准。该协议定义了一对多应用程序如何有效地通过IP 网络传送多媒体数据。其语法和操作参考了HTTP/1.1，默认端口554。RTSP主要应用在视频监控领域，网络摄像头都支持RTSP协议。RTSP只是对媒体传输进行控制，真正传输音视频是RTP协议，将在后面介绍。
【vlc】使用VLC播放RTP码流(SDP文件方式）
qq_43248127的博客
04-26 8170
自己编写程序实现了对h.264码流的RTP封装，并进行了发送。 使用VLC的串流保存文件，可以接收并保存，收到的数据也正确，但就是无法播放。 直接按照下图方式，报错。 看来需要配置sdp文件。 按照如下方式进行配置： m=video 1234 RTP/AVP 96 a=rtpmap:96 H264/90000 a=fmtp:96 packetization-mode=1; profile-lev...
FFMPEG API函数根据SDP文件接收RTP媒体流
u013220323的专栏
03-19 5409
ffmpeg 根据sdp文件接收rtp媒体流
获取视频第一帧、指定帧（java实现、阿里oss自动实现）
BUG指挥课堂
09-28 1849
在实际项目中，上传视频后，需要将视频的首帧截取出来显示，从而可以清晰看出视频具体是哪一个，这就要实现一个功能来截取视频的指定帧。 用java借助第三方库实现 首先，使用maven来管理项目，导入依赖： <dependency> <groupId>org.bytedeco</groupId> <artifactId>javacpp</artifactId> <.
流媒体传输 - RTP 荷载 H264
irainsa的博客
11-25 641
一个原始的 H.264 NALU 单元常由 [Start Code] [NALU Header] [NALU Payload] 三部分组成，其中 Start Code 用于标示这是一个 NALU 单元的开始，必须是 "00 00 00 01" 或 "00 00 01", NALU 头仅一个字节，其后都是 NALU 单元内容，打包时去除 "00 00 01" 或 "00 00 00 01" 的开始码，把其他数据封包为 RTP 包即可。必须将 NAL 单元类型八位字节的类型字段设置为适当的值，如表 4 所示。
基于H.264的RTP打包原理和FU-A分片实例分析
freeyond的博客
09-09 3681
本文分析了基于H.264编码格式的RTP打包原理，并使用一个实例分析了非交错模式下FU-A分片单元的组包
java h264 rtp_H264 RTP包解析
weixin_42511879的博客
02-16 1463
1. 预备视频：由一副副连续的图像构成，由于数据量比较大，因此为了节省带宽以及存储，就需要进行必要的压缩与解压缩，也就是编解码。h264裸码流：对一个图像或者一个视频序列进行压缩，即产生码流，采用H264编码后形成的码流就是h264裸码流。码流传输：发送端将H264裸码流打包后进行网络传输，接收端接收后进行组包还原裸码流，然后可以再进行存储，转发，或者播放等等相关的处理。存储转发可以直接使用裸码...
实现RTP/RTSP传输的H.264/ACC音视频编码流
EtwCpp的博客
09-25 223
本文将介绍如何使用RTP和RTSP协议传输H.264/AAC编码的音视频流，并提供相应的源代码。综上所述，我们通过使用RTP和RTSP协议，可以实现H.264/AAC编码的音视频流的传输和控制。通过上述的代码示例，您可以开始构建自己的音视频传输应用程序。RTP是一种实时传输协议，用于在IP网络中传输音视频数据。RTSP是一种用于控制流媒体服务器的协议，它可以实现流媒体的播放、暂停、快进等功能。上述代码中，我们创建了一个RTP套接字，并定义了一些常量，如RTP负载类型、版本号等。函数用于发送视频帧数据，
SDP详细介绍与GB28181的SDP规定
weixin_44220298的博客
11-17 5120
参考： sdp文件详细总结 原文链接：https://blog.csdn.net/zhangjikuan/article/details/27367437 1 SDP 会话描述协议，Session Description Protocal SDP包括以下一些方面： (1)会话的名称和目的 (2)会话存活时间 (3)包含在会话中的媒体信息，包括： 媒体类型(video,audio, etc) 传输协议(RTP/UDP/IP,H.320, etc) 媒体格式(H.261video, MPEG video, et
RTP传输TS或PS流的SDP写法
gz_chen的博客
11-27 3147
在网上没有找到RTP传PS流的SDP写法，所以在此记录一下 RTP传PS的SDP写法 m=video 4228 RTP/AVP 32 a=rtpmap:32 MP2P/90000 a=framerate:25 c=IN IP4 127.0.0.14228是UDP的端口号，可以根据实际修改 MP2P代表负载为PS流 25是帧率，可以根据实际修改 RTP传TS的SDP写法 m=video 4228
RTSP协议视频智能分析平台EasyNVR分享界面ifarm嵌套云端控制显示优化方案
EasyNVR官方技术博客
11-25 316
TSINGSEE青犀视频云边端架构视频智能分析平台经常会用到页面嵌套的功能，比如EasyGBS的页面嵌套（EasyGBS的分享界面调用ifram嵌套后出现滚动条）等。 EasyNVR也会使用ifarm进行嵌套，在ifarm嵌套界面默认云端空是不显示的，现在需要加一个配置字段来安要求是否显示。 此字段是需要加载url地址中的，showConsole字段为yes则显示，no为隐藏，默认不显示。参考代码如下： async mounted() { this.IEVersion = this.
h264和h265视频流SDP描述详解
技术控的笔记
07-27 3455
SDP（Session Description Protocol）会话描述协议，基于RTSP/GB28181 SIP等流媒体描述一般都采用SDP协议，本文主要讲解下H264和H265裸流在SDP中式怎样描述的
H.264视频流的传输与载荷
SK的博客
11-22 563
转载：http://blog.csdn.net/bytxl/article/details/50393198 从摄像头获取的视频数据，经过编码后（当然，也可以不编码，如果你觉得也很ok的话），可以视频录制，同时如果需要，当然也可以视频远程传输咯，而实时传输协议（Real-time Transport Protocol，RTP）是在Internet上处理多媒体数据流的一种网络协议，利用它能
RTP/RTCP/RTSP负载H264的一些问题小结
blwinner的专栏
04-08 5186
以下内容都是基于rfc3984，RTP负载H264时的参数配置 1、在TCP传输时，Transport头中的interleaved参数必须设置，比如0-1，或者2-3（海康的流中出现了4，但是没有配置，所以wireshark也无法解析channel=4的rtp interleaved frame）。该参数的第一个值是RTP包标识，第二个参数是RTCP包的标识。在海康流测试中，TCP包没有出现1或...
详解 H.264 NALU语法结构
晨海的博客
05-13 2295
文章来源：https://blog.csdn.net/qq_29350001/article/details/78226286 讲到H.264除了前两篇文章提到的，I、P、B帧。参看： 图像和流媒体 -- I 帧,B帧,P帧,IDR帧的区别 还有其他相关术语： NALU：H264编码数据存储或传输的基本...
H.264编码与RTP/RTCP协议解析
负载格式（Payload Format）根据不同媒体类型进行定制，例如，对于H.264视频，有专门的RTP负载格式定义，如RFC3984。RTP和RTCP与RTSP（Real-Time Streaming Protocol）不同，RTSP主要负责流媒体的控制，提供暂停、...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值