iOS 音视频编解码基本概念（一）

• 先来看看视频里面到底有什么

视频内容

内容元素:

• 图像(Image)

• ⾳频(Audio)

• 元信息(Metadata)

• 编码格式: • Video: H264

• Audio: AAC

• 容器封装: • MP4/MOV/FLV/RM/RMVB/AVI

• .视频相关基础概念

  • 1.视频文件格式

    相信大家平时接触的word文件后面带的.doc，图片后缀带有.png/.jpg等，我们常见的视频文件后缀有:.mov、.avi、.mpg、.vob、.mkv、.rm、.rmvb 等等。这些后缀名通常在操作系统上用相应的应用程序打开，比如.doc用word打开。对于视频来说，为什么会有这么多的文件格式了，那是因为通过了不同的方式来实现了视频这件事---------视频的封装格式。

• 2.视频的封装格式

  视频封装格式，通常我们把它称作为视频格式，它相当于一种容器，比如可乐的瓶子，矿泉水瓶等等。它里面包含了视频的相关信息（视频信息，音频信息，解码方式等等），一种封装格式直接反应了视频的文件格式，封装格式:就是将已经编码压缩好的视频数据 和音频数据按照一定的格式放到一个文件中.这个文件可以称为容器. 当然可以理解为这只是一个外壳.通常我们不仅仅只存放音频数据和视频数据,还会存放 一下视频同步的元数据.例如字幕.这多种数据会不同的程序来处理,但是它们在传输和存储的时候,这多种数据都是被绑定在一起的.

常见的格式

• 相关视频封装格式的优缺点：

  • 1.AVI 格式：这种视频格式的优点是图像质量好，无损 AVI 可以保存 alpha 通道。缺点是体积过于庞大，并且压缩标准不统一，存在较多的高低版本兼容问题。
  • 2.WMV 格式：可以直接在网上实时观看视频节目的文件压缩格式。在同等视频质量下，WMV 格式的文件可以边下载边播放，因此很适合在网上播放和传输。
  • 3.MPEG 格式：为了播放流式媒体的高质量视频而专门设计的，以求使用最少的数据获得最佳的图像质量。
  • 4.Matroska 格式：是一种新的视频封装格式，它可将多种不同编码的视频及 16 条以上不同格式的音频和不同语言的字幕流封装到一个 Matroska Media 文件当中。
  • 5.Real Video 格式：用户可以使用 RealPlayer 根据不同的网络传输速率制定出不同的压缩比率，从而实现在低速率的网络上进行影像数据实时传送和播放。
  • 6.QuickTime File Format 格式：是 Apple 公司开发的一种视频格式，默认的播放器是苹果的 QuickTime。这种封装格式具有较高的压缩比率和较完美的视频清晰度等特点，并可以保存 alpha 通道。
  • 7.Flash Video 格式： Adobe Flash 延伸出来的一种网络视频封装格式。这种格式被很多视频网站所采用。

• 视频的编码格式

• 视频编解码的过程是指对数字视频进行压缩或解压缩的一个过程.在做视频编解码时，需要考虑以下这些因素的平衡：

  • 视频的质量、
  • 用来表示视频所需要的数据量（通常称之为码率）、
  • 编码算法和解码算法的复杂度
  • 针对数据丢失和错误的鲁棒性（Robustness）
  • 编辑的方便性
  • 随机访问
  • 编码算法设计的完美性
  • 端到端的延时以及其它一些因素

• 常见的编码方式：

• H.26X 系列，由国际电传视讯联盟远程通信标准化组织(ITU-T)主导，包括 H.261、H.262、H.263、H.264、H.265

  • H.261，主要用于老的视频会议和视频电话系统。是第一个使用的数字视频压缩标准。实质上说，之后的所有的标准视频编解码器都是基于它设计的。
  • H.262，等同于 MPEG-2 第二部分，使用在 DVD、SVCD 和大多数数字视频广播系统和有线分布系统中。
  • H.263，主要用于视频会议、视频电话和网络视频相关产品。在对逐行扫描的视频源进行压缩的方面，H.263 比它之前的视频编码标准在性能上有了较大的提升。尤其是在低码率端，它可以在保证一定质量的前提下大大的节约码率。
  • H.264，等同于 MPEG-4 第十部分，也被称为高级视频编码(Advanced Video Coding，简称 AVC)，是一种视频压缩标准，一种被广泛使用的高精度视频的录制、压缩和发布格式。该标准引入了一系列新的能够大大提高压缩性能的技术，并能够同时在高码率端和低码率端大大超越以前的诸标准。
  • H.265，被称为高效率视频编码(High Efficiency Video Coding，简称 HEVC)是一种视频压缩标准，是 H.264 的继任者。HEVC 被认为不仅提升图像质量，同时也能达到 H.264 两倍的压缩率（等同于同样画面质量下比特率减少了 50%），可支持 4K 分辨率甚至到超高画质电视，最高分辨率可达到 8192×4320（8K 分辨率），这是目前发展的趋势。

• 当前不建议用H.265是因为太过于消耗CPU，而且目前H.264已经满足了大多的视频需求，虽然H.265是H.264的升级版，期待后续硬件跟上

• MPEG 系列，由国际标准组织机构(ISO)下属的运动图象专家组(MPEG)开发。

  • MPEG-1 第二部分，主要使用在 VCD 上，有些在线视频也使用这种格式。该编解码器的质量大致上和原有的 VHS 录像带相当。
  • MPEG-2 第二部分，等同于 H.262，使用在 DVD、SVCD 和大多数数字视频广播系统和有线分布系统中。
  • MPEG-4 第二部分，可以使用在网络传输、广播和媒体存储上。比起 MPEG-2 第二部分和第一版的 H.263，它的压缩性能有所提高。
  • MPEG-4 第十部分，等同于 H.264，是这两个编码组织合作诞生的标准。
    其他，AMV、AVS、Bink、CineForm 等等，这里就不做多的介绍了。

• 可以把「视频封装格式」看做是一个装着视频、音频、「视频编解码方式」等信息的容器。一种「视频封装格式」可以支持多种「视频编解码方式」，比如：QuickTime File Format(.MOV) 支持几乎所有的「视频编解码方式」，MPEG(.MP4) 也支持相当广的「视频编解码方式」。当我们看到一个视频文件名为 test.mov 时，我们可以知道它的「视频文件格式」是 .mov，也可以知道它的视频封装格式是 QuickTime File Format，但是无法知道它的「视频编解码方式」。那比较专业的说法可能是以 A/B 这种方式，A 是「视频编解码方式」，B 是「视频封装格式」。比如：一个 H.264/MOV 的视频文件，它的封装方式就是 QuickTime File Format，编码方式是 H.264

• 音频编码方式

  • 视频中除了画面通常还有声音，所以这就涉及到音频编解码。在视频中经常使用的音频编码方式有

  • AAC，英文全称 Advanced Audio Coding，是由 Fraunhofer IIS、杜比实验室、AT&T、Sony等公司共同开发，在 1997 年推出的基于 MPEG-2 的音频编码技术。2000 年，MPEG-4 标准出现后，AAC 重新集成了其特性，加入了 SBR 技术和 PS 技术，为了区别于传统的 MPEG-2 AAC 又称为 MPEG-4 AAC。

  • MP3，英文全称 MPEG-1 or MPEG-2 Audio Layer III，是当曾经非常流行的一种数字音频编码和有损压缩格式，它被设计来大幅降低音频数据量。它是在 1991 年，由位于德国埃尔朗根的研究组织 Fraunhofer-Gesellschaft 的一组工程师发明和标准化的。MP3 的普及，曾对音乐产业造成极大的冲击与影响。

  • WMA，英文全称 Windows Media Audio，由微软公司开发的一种数字音频压缩格式，本身包括有损和无损压缩格式。

直播/小视频中的编码格式

• 视频编码格式

  • H264编码的优势:
    低码率
    高质量的图像
    容错能力强
    网络适应性强

• 总结: H264最大的优势,具有很高的数据压缩比率,在同等图像质量下,H264的压缩比是MPEG-2的2倍以上,MPEG-4的1.5~2倍.
  举例: 原始文件的大小如果为88GB，采用MPEG-2压缩标准压缩后变成3.5GB，压缩比为25∶1，而采用H.264压缩标准压缩后变为879MB，从88GB到879MB，H.264的压缩比达到惊人的102∶1
  音频编码格式:

• AAC是目前比较热门的有损压缩编码技术,并且衍生了LC-AAC,HE-AAC,HE-AAC v2 三种主要编码格式.

• LC-AAC 是比较传统的AAC,主要应用于中高码率的场景编码(>= 80Kbit/s)

• HE-AAC 主要应用于低码率场景的编码(<= 48Kbit/s)

• 优势:在小于128Kbit/s的码率下表现优异,并且多用于视频中的音频编码，适合场景:于128Kbit/s以下的音频编码,多用于视频中的音频轨的编码

关于H264

• H.264 是现在广泛采用的一种编码方式。关于 H.264 相关的概念，从大到小排序依次是：序列、图像、片组、片、NALU、宏块、亚宏块、块、像素。

• 图像

  • H.264 中，「图像」是个集合的概念，帧、顶场、底场都可以称为图像。一帧通常就是一幅完整的图像。

当采集视频信号时，如果采用逐行扫描，则每次扫描得到的信号就是一副图像，也就是一帧。

当采集视频信号时，如果采用隔行扫描（奇、偶数行），则扫描下来的一帧图像就被分为了两个部分，这每一部分就称为「场」，根据次序分为：「顶场」和「底场」。

「帧」和「场」的概念又带来了不同的编码方式：帧编码、场编码逐行扫描适合于运动图像，所以对于运动图像采用帧编码更好；隔行扫描适合于非运动图像，所以对于非运动图像采用场编码更好

image.png

• 红色代表奇数行，绿色代表偶数行

• 片(Slice)，每一帧图像可以分为多个片

网络提取层单元(NALU, Network Abstraction Layer Unit)，
NALU 是用来将编码的数据进行打包的，一个分片(Slice)可以编码到一个 NALU 单元。不过一个 NALU 单元中除了容纳分片(Slice)编码的码流外，还可以容纳其他数据，比如序列参数集 SPS。对于客户端其主要任务则是接收数据包，从数据包中解析出 NALU 单元，然后进行解码播放。

宏块(Macroblock)，分片是由宏块组成。

• 颜色模型

• 请参考YUV与RGB&YUV算法