功能单元概念

ModelBox框架功能单元是指一个独立的功能操作单元,核心是通过一系列处理逻辑可以完成某个特定功能。功能单元类似但不同与模型开发框架里面的算子概念,后者主要表示一种数学运算。而ModelBox功能单元粒度比后者更大,可以是一系列具体操作,能完成一个比较独立的业务功能,如图片缩放、视频解码功能单元、推理功能单元等,ModelBox框架功能单元更面向于AI应用的业务逻辑。

ModelBox功能单元由三部分组成:功能单元端口、接口和配置。

表 1 功能单元组成

名称

说明

功能单元端口

分为输入端口和输出端口,输入端口可以接收输入数据,输出端口可以往下一个功能单元发送数据。ModelBox框架支持图片、视频、语音、文字等各种多媒体数据,ModelBox定义了一套功能单元的输入数据和输出数据读写通用规范,目的是保证数据能在不同功能单元之间传递,所有功能单元必须遵守数据规范。

接口

功能单元的基础接口,通过接口可以实现功能单元的初始化和数据处理等。

配置

功能单元提供给用户的自定义配置,比如图片缩放功能单元,用户可以设置缩放的长宽值,使得功能单元更通用。功能单元可以通过ModelBox框架图编排引擎进行加载运行。功能单元按照提供者类型分为预置基础功能单元和自定义功能单元,ModelBox基础功能单元是指框架内部已经实现好的功能单元,使用者不需要写代码,只进行简单配置即可直接使用。当前预置基础功能单元无法满足要求时,开发者可以根据自己的业务逻辑编写自定义功能单元。ModelBox提供自定义功能单元的开发框架,用户只需实现相应接口即可。

results matching ""

    No results matching ""