音视频Media内核学习——OpenMax浅析

作者: 谁动了我的代码 | 来源:发表于2022-12-16 21:15 被阅读0次

    一、OpenMax简介(缩写为:OMX)

    OpenMAX是一个多媒体应用程序的标准。由NVIDIA公司和Khronos™在2006年推出。

    它是无授权费的、跨平台的C语言程序接口序列,这些接口对音频、视频、静态图片的常用操作进行封装。

    它包括三层,分别是应用层(AI)、集成层(IL)和开发层(DL)。其中IL层已经成为了事实上的多媒体框架标准。嵌入式处理器或者多媒体编解码模块的硬件生产者,通常提供标准的OpenMax IL层的软件接口,这样软件的开发者就可以基于这个层次的标准化接口进行多媒体程序的开发。

    二、OpenMax在Android中的位置

    在Android中,OpenMax IL层,通常可以用于多媒体引擎的插件,Android的多媒体引擎OpenCore和StageFright都可以使用OpenMax作为插件,主要用于编解码(Codec)处理。在Android的框架层,也定义了由Android封装的OpenMax接口,和标准的接口概念基本相同,但是使用C++类型的接口,并且使用了Android的Binder IPC机制。Android封装OpenMax的接口被StageFright使用,OpenCore没有使用这个接口,而是使用其他形式对OpenMax IL层接口进行封装。


    三、OpenMax的主要概念

    • 客户端(Client):访问IL core或IL component的软件层,可能是位于GUI应用程序的下层,如GStreamer。IL client是一个典型的功能块,如filter graph multimedia framework, OpenMAX AL, 或application都可以调用它。IL client与OpenMAX IL core进行交互,利用IL core加载和卸载组件、在组件间建立直接通信以及获得组件方法的入口。
    • core:相关平台的代码,具有将IL component载入主存储器的功能,当应用程序不再需要某组件时,IL core将负责把该组件从存储器卸去。一般来说,组件一旦载入存储器,IL core将不在参与应用程序与组件之间的通信。
    • 端口(Port):组件的输入输出接口
    • 组件(Component):OpenMax IL的单元,每一个组件实现一种功能。组件按照端口可分类为Source(只有一个输出端口)、Sink(只有一个输入端口)和Host组件(一个输入端口和一个输出端口),此外有一个Accelerator组件,它具有一个输入端口,调用了硬件的编解码器,加速主要体现在这个环节上。
    • 隧道化(Tunneled):让两个组件直接连接的方式。通过隧道化可以将不同的组件的一个输入端口和一个输出端口连接到一起,在这种情况下,两个组件的处理过程合并,共同处理。尤其对于单输入和单输出的组件,两个组件将作为类似一个使用。

    四、OpenMax的工作方式

    首先,搭建好OpenMax的工作环境:设置组件端口、加载组件,建立连接方式等等。


    然后通过输入端口消耗Buffer,通过输出端口填充Buffer,由此多组件相联接可以构成流式的处理。

    五、OpenMax的测试方式

    参考《Build OpenCORE 2.05 on x86 Linux.PDF》和《omx_decoder_test_app_guide.pdf》

    六、OpenMax接口和集成过程(以android平台的为例)

    七、android中支持的组件和Role

    根据pv_omxregistry.cpp,得到如下表格(其中黄绿色部分表示没有相应编码器)

    组件 角色 动态库名
    OMX.PV.mpeg4dec video_decoder.mpeg4 libomx_m4vdec_sharedlibrary
    OMX.PV.h263dec video_decoder.h263 libomx_m4vdec_sharedlibrary
    OMX.PV.avcdec video_decoder.avc libomx_avcdec_sharedlibrary
    OMX.PV.wmvdec video_decoder.wmv libomx_wmvdec_sharedlibrary
    OMX.PV.rvdec video_decoder.rv libomx_rvdec_sharedlibrary
    OMX.PV.aacdec audio_decoder.aac libomx_aacdec_sharedlibrary
    OMX.PV.amrdec audio_decoder.amraudio_decoder.amrnbaudio_decoder.amrwb libomx_amrdec_sharedlibrary
    OMX.PV.mp3dec audio_decoder.mp3 libomx_mp3dec_sharedlibrary
    OMX.PV.wmadec audio_decoder.wma libomx_wmadec_sharedlibrary
    OMX.PV.radec audio_decoder.ra libomx_radec_sharedlibrary
    OMX.PV.amrencnb audio_encoder.amrnb libomx_amrenc_sharedlibrary
    OMX.PV.mpeg4enc video_encoder.mpeg4 libomx_m4venc_sharedlibrary
    OMX.PV.h263enc video_encoder.h263 libomx_m4venc_sharedlibrary
    OMX.PV.avcenc video_encoder.avc libomx_avcenc_sharedlibrary
    OMX.PV.aacenc audio_encoder.aac libomx_aacenc_sharedlibrary

    八、Openmax 一些函数的简单介绍

    1、OMX core methods

    1)OMX_Init 2)OMX_Deinit 3)OMX_GetHandle 4)OMX_FreeHandle 5)OMX_ComponentNameEnum 6)OMX_GetComponentsOfRole 7)OMX_GetRolesOfComponent 8)OMX_SetupTunnel 9)OMX_GetContentPipe

    2、The configuration parser API

    除了以上methods,强烈推荐OMX核心插件库包含此API

    2.1函数原型

    OMX_BOOL OMXConfigParser ( OMX_PTR aInputParameters,OMX_PTR aOutputParameters);
    

    2.2 传递参数

    aInputParameters 指向如下结构
    typedef struct
    {
    OMX_U8* inPtr;  //codec 配置头部指针
    OMX_U32 inBytes;  //codec 配置头部长度
    OMX_STRING cComponentRole; //OMX codec类型 eg "video_decoder.mpeg4"
    OMX_STRING cComponentName; //OMX 组件名称
    } OMXConfigParserInputs;
    

    2.3 返回值

    OMX_FALSE : 处理codec配置头部错误或不支持该格式
    OMX_TURE : 正确处理codec配置头部
    

    2.4 函数作用

    填充aOutputParameters,有两种选择:audio coded or vedio codec

    for audio
    typedef struct
    {
    OMX_U16 Channels;  //通道:单声道、立体声、5.1
    OMX_U16 BitsPerSample;  //位宽(eg16)
    OMX_U32 SamplesPerSec;  //采样率
    } AudioOMXConfigParserOutputs;
    
    typedef struct
    {
    OMX_U32 width;  //检测到的视频剪辑宽度
    OMX_U32 height;  //检测到的视频剪辑高度
    OMX_U32 profile;  //参数
    OMX_U32 level;  //级别?
    } VideoOMXConfigParserOutputs;
    

    3、动态加载OMX内核

    解释了\system\system\etc\pvplayer.cfg文件中最后一行的含义 (0xa054369c,0x22c5,0x412e,0x19,0x17,0x87,0x4c,0x1a,0x19,0xd4,0x5f),"libomx_sharedlibrary.so"

    作用:将OMX内核动态加载进OpenCORE框架 位置:\system\system\etc\pvplayer.cfg 形式:(OMX Core API OsclUuid), “shared library name.so”

    eg:

    (0xa054369c,0x22c5,0x412e,0x19,0x17,0x87,0x4c,0x1a,0x19,0xd4,0x5f),"libomx_core_vendorXYZ.so"


    以上就是OpenMax的简单解析,音视频属于大范围学习的岗位开发;更多有关音视频开发进阶可以浏览这篇《音视频简单到精通手册》里面内容包含几十个大大小小技术。对于新手非常友好从基础语言C++开始解析学习。

    优势

    • 1.加速跨OS和silicon平台的多媒体组件的开发、整合和编程;
    • 2.使library和codec实现者能够快速有效的利用新silicon的潜在的加速功能,而不关心下层的硬件结构。

    相关文章

      网友评论

        本文标题:音视频Media内核学习——OpenMax浅析

        本文链接:https://www.haomeiwen.com/subject/gfzrqdtx.html