前言

即时通讯应用中的实时音视频技术，几乎是IM开发中的最后一道高墙。原因在于：实时音视频技术 = 音视频处理技术 + 网络传输技术 的横向技术应用集合体，而公共互联网不是为了实时通信设计的。本文主要讲解实时音视频技术中视频技术的编解码基础理论。

视频为何需要压缩？

• 未经压缩的数字视频的数据量巨大
• 存储困难：一张DVD只能存储几秒钟的未压缩数字视频。

• 传输困难 1兆的带宽传输一秒的数字电视视频需要大约4分钟。

  
  

主要压缩了什么东西？

原始视频压缩的目的是去除冗余信息，可以去除的冗余包括：

• 空间冗余：图像相邻像素之间有较强的相关性
• 时间冗余：视频序列的相邻图像之间内容相似
• 编码冗余：不同像素值出现的概率不同
• 视觉冗余：人的视觉系统对某些细节不敏感
• 知识冗余：规律性的结构可由先验知识和背景知识得到

数据压缩是怎么分类的？

• 无损压缩（Lossless）：压缩前、解压缩后图像完全一致X=X'，压缩比低(2:1~3:1)。典型格式例如：Winzip，JPEG-LS。
• 有损压缩（Lossy）：压缩前解压缩后图像不一致X≠X'，压缩比高(10:1~20:1)，利用人的视觉系统的特性。典型格式例如：MPEG-2，H.264/AVC，AVS。
  

什么是“编解码器”？

• 编码器（Encoder）：压缩信号的设备或程序；
• 解码器（Decoder）：解压缩信号的设备或程序；
• 编解码器(Codec)：编解码器对。

编解码的技术流程和原理

编码器中的关键技术

编解码中的关键技术

编解码器的实现

编解码器的实现平台：

• 超大规模集成电路VLSI
• ASIC， FPGA
• 数字信号处理器DSP
• 软件

编解码器产品：

• 机顶盒
• 数字电视
• 摄像机
• 监控器

视频编码的标准

编码标准作用：

• 兼容：不同厂家生产的编码器压缩的码流能够被不同厂家的解码器解码
• 高效：标准编解码器可以进行批量生产，节约成本。

主流的视频编码标准：

• MPEG-2
• MPEG-4 Simple Profile
• H.264/AVC
• AVS
• VC-1

标准化组织：

• ITU：International Telecommunications Union
• VCEG：Video Coding Experts Group
• ISO：International Standards Organization
• MPEG：Motion Picture Experts Group

视频传输

• 视频传输：通过传输系统将压缩的视频码流从编码端传输到解码端
• 传输系统：互联网，地面无线广播，卫星

视频传输面临的问题

传输系统不可靠：

• 带宽限制
• 信号衰减
• 噪声干扰
• 传输延迟

视频传输出现的问题：

• 不能解码出正确的视频
• 视频播放延迟

视频传输差错控制

差错控制（Error Control）解决视频传输过程中由于数据丢失或延迟导致的问题。

差错控制技术有：

• 信道编码差错控制技术
• 编码器差错恢复
• 解码器差错隐藏

视频传输中QoS质量保证参数

• 数据包的端到端的延迟
• 带宽：比特/秒
• 数据包的流失率

• 数据包的延迟时间的波动

  
  

以上就是音视频技术中的DSP视频编解码的过程解析；音视频的开发学习需要很广的知识面。如果想进入音视频开发或者在音视频领域深造长远发展；那么音视频的学习之路还有很长。对此我推荐网易高级音视频开发整理的《音视频入门与精通电子版》，里面从最基础的c++语言开始详细介绍。如需要可以点击获取方式，领取资料参考学习。

结语

音视频开发其实一直都很有热度，而对于5G的到来顺势拉起一波热潮，所以现在快速进入音视频开发发展，还能很快跟上步伐。时代的变化随着科技变化而产生市场上的变化，从而产生需求。

Android开发之所以随之变冷，是因为人才的饱和，需要更高级的人才和新技术。不学习将会逐渐被淘汰；我们要做的是不于行业脱轨。