图编排引擎
ModelBox 框架提供图编排引擎能力,可以将符合规范编排的图加载并运行起来,如图1所示。图编排引擎主要完成图加载和功能单元调度。图加载是对所有功能单元进行加载初始化并创建功能单元间的关系,功能单元调度则是根据图的编排流向对功能单元进行调度,选择对应的硬件执行,完成高并发的数据处理,使得性能最优。
ModelBox图编排引擎支持根据功能单元的硬件类型自动选择对应库进行加载。
ModelBox图编排引擎节点调度支持数据拆分、合并、保序。
ModelBox图编排引擎支持图的创建、启动、停止、删除、查询等基本接口。
ModelBox图编排引擎支持不同开发语言功能单元的混合调度。
ModelBox图编排引擎提供输入输出端口数据类型的校验能力。