前言 即时通讯应用中的实时音视频技术,几乎是IM开发中的最后一道高墙。原因在于:实时音视频技术 = 音视频处理技术 + 网络传输技术 的横向技术应用集合体,而公共互联网不是为了实时通信设计的。有关实时音视频开发时的技术难题请参见《音视频云声网Agora:从demo到实用,中间还差1万个WebRTC》:http://www.52im.net/article-119-1.html 本文主要讲解实时音视频技术中视频技术的编解码基础理论。 视频为何需要压缩? 未经压缩的数字视频的数据量巨大 存储困难:一张DVD只能存储几秒钟的未压缩数字视频。 传输困难 1兆的带宽传输一秒的数字电视视频需要大约4分钟。 主要压缩了什么东西? 原始视频压缩的目的是去除冗余信息,可以去除的冗余包括: 空间冗余:图像相邻像素之间有较强的相关性 时间冗余:视频序列的相邻图像之间内容相似 编码冗余:不同像素值出现的概率不同 视觉冗余:人的视觉系统对某些细节不敏感 知识冗余:规律性的结构可由先验知识和背景知识得到 数据压缩是怎么分类的? 无损压缩(Lossless):压缩前、解压缩后图像完全一致X=X',压缩比低(2:1~3:1)。典型格式例如:Winzip,JPEG-LS。 有损压缩(Lossy):压缩前解压缩后图像不一致X≠X',压缩比高(10:1~20:1),利用人的视觉系统的特性。典型格式例如:MPEG-2,H.264/AVC,AVS。 什么是“编解码器”? 编码器(Encoder):压缩信号的设备或程序; 解码器(Decoder):解压缩信号的设备或程序; 编解码器(Codec):编解码器对。 编解码的技术流程和原理 1编码器中的关键技术 2编解码中的关键技术 编解码器的实现 编解码器的实现平台: 超大规模集成电路VLSI ASIC, FPGA 数字信号处理器DSP 软件 编解码器产品: 机顶盒 数字电视 摄像机 监控器 视频编码的标准 编码标准作用: 兼容:不同厂家生产的编码器压缩的码流能够被不同厂家的解码器解码 高效:标准编解码器可以进行批量生产,节约成本。 主流的视频编码标准: MPEG-2 MPEG-4 Simple Profile H.264/AVC AVS VC-1 标准化组织: ITU:International Telecommunications Union VECG:Video Coding Experts Group ISO:International Standards Organization MPEG:Motion Picture Experts Group 视频传输 视频传输:通过传输系统将压缩的视频码流从编码端传输到解码端 传输系统:互联网,地面无线广播,卫星 视频传输面临的问题 传输系统不可靠: 带宽限制 信号衰减 噪声干扰 传输延迟 视频传输出现的问题: 不能解码出正确的视频 视频播放延迟 视频传输差错控制 差错控制(Error Control)解决视频传输过程中由于数据丢失或延迟导致的问题。 差错控制技术有: 信道编码差错控制技术 编码器差错恢复 解码器差错隐藏 视频传输中QoS质量保证参数 数据包的端到端的延迟 带宽:比特/秒 数据包的流失率 数据包的延迟时间的波动 系列文章 《即时通讯音视频开发(一):视频编解码之理论概述》 《即时通讯音视频开发(二):视频编解码之数字视频介绍》 《即时通讯音视频开发(三):视频编解码之编码基础》 《即时通讯音视频开发(四):视频编解码之预测技术介绍》 《即时通讯音视频开发(五):认识主流视频编码技术H.264》 《即时通讯音视频开发(六):如何开始音频编解码技术的学习》 《即时通讯音视频开发(七):音频基础及编码原理入门》 《即时通讯音视频开发(八):常见的实时语音通讯编码标准》 《即时通讯音视频开发(九):实时语音通讯的回音及回音消除概述》 《即时通讯音视频开发(十):实时语音通讯的回音消除技术详解》 《即时通讯音视频开发(十一):实时语音通讯丢包补偿技术详解》 《即时通讯音视频开发(十二):多人实时音视频聊天架构探讨》 《即时通讯音视频开发(十三):实时视频编码H.264的特点与优势》 《即时通讯音视频开发(十四):实时音视频数据传输协议介绍》 《即时通讯音视频开发(十五):聊聊P2P与实时音视频的应用情况》 《即时通讯音视频开发(十六):移动端实时音视频开发的几个建议》 《即时通讯音视频开发(十七):视频编码H.264、V8的前世今生》 全站即时通讯技术资料分类 [1] 网络编程基础资料: 《TCP/IP详解 - 第11章·UDP:用户数据报协议》 《TCP/IP详解 - 第17章·TCP:传输控制协议》 《TCP/IP详解 - 第18章·TCP连接的建立与终止》 《TCP/IP详解 - 第21章·TCP的超时与重传》 《理论经典:TCP协议的3次握手与4次挥手过程详解》 《理论联系实际:Wireshark抓包分析TCP 3次握手、4次挥手过程》 《计算机网络通讯协议关系图(中文珍藏版)》 《NAT详解:基本原理、穿越技术(P2P打洞)、端口老化等》 《UDP中一个包的大小最大能多大?》 《Java新一代网络编程模型AIO原理及Linux系统AIO介绍》 《NIO框架入门(三):iOS与MINA2、Netty4的跨平台UDP双向通信实战》 《NIO框架入门(四):Android与MINA2、Netty4的跨平台UDP双向通信实战》 >> 更多同类文章 …… [2] 有关IM/推送的通信格式、协议的选择: 《为什么QQ用的是UDP协议而不是TCP协议?》 《移动端即时通讯协议选择:UDP还是TCP?》 《如何选择即时通讯应用的数据传输格式》 《强列建议将Protobuf作为你的即时通讯应用数据传输格式》 《移动端IM开发需要面对的技术问题(含通信协议选择)》 《简述移动端IM开发的那些坑:架构设计、通信协议和客户端》 《理论联系实际:一套典型的IM通信协议设计详解》 《58到家实时消息系统的协议设计等技术实践分享》 >> 更多同类文章 …… [3] 有关IM/推送的心跳保活处理: 《Android进程保活详解:一篇文章解决你的所有疑问》 《Android端消息推送总结:实现原理、心跳保活、遇到的问题等》 《为何基于TCP协议的移动端IM仍然需要心跳保活机制?》 《微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)》 《微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)》 《移动端IM实践:实现Android版微信的智能心跳机制》 《移动端IM实践:WhatsApp、Line、微信的心跳策略分析》 >> 更多同类文章 …… [4] 有关WEB端即时通讯开发: 《新手入门贴:史上最全Web端即时通讯技术原理详解》 《Web端即时通讯技术盘点:短轮询、Comet、Websocket、SSE》 《SSE技术详解:一种全新的HTML5服务器推送事件技术》 《Comet技术详解:基于HTTP长连接的Web端实时通信技术》 《WebSocket详解(一):初步认识WebSocket技术》 《socket.io实现消息推送的一点实践及思路》 >> 更多同类文章 …… [5] 有关IM架构设计: 《浅谈IM系统的架构设计》 《简述移动端IM开发的那些坑:架构设计、通信协议和客户端》 《一套原创分布式即时通讯(IM)系统理论架构方案》 《从零到卓越:京东客服即时通讯系统的技术架构演进历程》 《蘑菇街即时通讯/IM服务器开发之架构选择》 《腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT》 《微信技术总监谈架构:微信之道——大道至简(演讲全文)》 《如何解读《微信技术总监谈架构:微信之道——大道至简》》 《快速裂变:见证微信强大后台架构从0到1的演进历程(一)》 《17年的实践:腾讯海量产品的技术方法论》 >> 更多同类文章 …… [6] 有关IM安全的文章: 《即时通讯安全篇(一):正确地理解和使用Android端加密算法》 《即时通讯安全篇(二):探讨组合加密算法在IM中的应用》 《即时通讯安全篇(三):常用加解密算法与通讯安全讲解》 《即时通讯安全篇(四):实例分析Android中密钥硬编码的风险》 《传输层安全协议SSL/TLS的Java平台实现简介和Demo演示》 《理论联系实际:一套典型的IM通信协议设计详解(含安全层设计)》 《微信新一代通信安全解决方案:基于TLS1.3的MMTLS详解》 《来自阿里OpenIM:打造安全可靠即时通讯服务的技术实践分享》 >> 更多同类文章 …… [7] 有关实时音视频开发: 《简述开源实时音视频技术WebRTC的优缺点》 《良心分享:WebRTC 零基础开发者教程(中文)》 >> 更多同类文章 …… [8] IM开发综合文章: 《移动端IM开发需要面对的技术问题》 《开发IM是自己设计协议用字节流好还是字符流好?》 《请问有人知道语音留言聊天的主流实现方式吗?》 《IM系统中如何保证消息的可靠投递(即QoS机制)》 《谈谈移动端 IM 开发中登录请求的优化》 《完全自已开发的IM该如何设计“失败重试”机制?》 《微信对网络影响的技术试验及分析(论文全文)》 《即时通讯系统的原理、技术和应用(技术论文)》 《开源IM工程“蘑菇街TeamTalk”的现状:一场有始无终的开源秀》 >> 更多同类文章 …… [9] 开源移动端IM技术框架资料: 《开源移动端IM技术框架MobileIMSDK:快速入门》 《开源移动端IM技术框架MobileIMSDK:常见问题解答》 《开源移动端IM技术框架MobileIMSDK:压力测试报告》 《开源移动端IM技术框架MobileIMSDK:Android版Demo使用帮助》 《开源移动端IM技术框架MobileIMSDK:Java版Demo使用帮助》 《开源移动端IM技术框架MobileIMSDK:iOS版Demo使用帮助》 《开源移动端IM技术框架MobileIMSDK:Android客户端开发指南》 《开源移动端IM技术框架MobileIMSDK:Java客户端开发指南》 《开源移动端IM技术框架MobileIMSDK:iOS客户端开发指南》 《开源移动端IM技术框架MobileIMSDK:Server端开发指南》 >> 更多同类文章 …… [10] 有关推送技术的文章: 《iOS的推送服务APNs详解:设计思路、技术原理及缺陷等》 《Android端消息推送总结:实现原理、心跳保活、遇到的问题等》 《扫盲贴:认识MQTT通信协议》 《一个基于MQTT通信协议的完整Android推送Demo》 《求教android消息推送:GCM、XMPP、MQTT三种方案的优劣》 《移动端实时消息推送技术浅析》 《扫盲贴:浅谈iOS和Android后台实时消息推送的原理和区别》 《绝对干货:基于Netty实现海量接入的推送服务技术要点》 《移动端IM实践:谷歌消息推送服务(GCM)研究(来自微信)》 《为何微信、QQ这样的IM工具不使用GCM服务推送消息?》 >> 更多同类文章 …… [11] 更多即时通讯技术好文分类: http://www.52im.net/forum.php?mod=collection&op=all (原文链接:http://www.cnblogs.com/xkfz007/archive/2012/08/12/2613690.html)