在系统中的位置

在端边云场景下,典型的AI应用和周边系统的关系如图1所示。

图 1 端边云AI应用和周边关系

如上图所示,基于ModelBox框架开发的AI应用,可以一次开发多处部署,支持运行于端、边、云设备(需要有相应的端、边、云的模型),ModelBox作为容器或者进程AI应用的一部分,支持输入数据源及输出分析结果。开发者可以根据自己的习惯/喜好,以图编排的开发模式或者传统API函数调用的方式,在AI应用开发环境中开发AI应用,开发过程中可以通过部署管理系统将AI应用安装部署到端、边、云的推理环境中进行调试;开发完成后也可以通过部署管理系统进行正式的部署。运行于端、边、云推理环境中的AI应用可以通过ModelBox的数据收集能力收集样本数据或者难例数据,开发环境可以使用收集到的数据来优化AI模型并迭代升级AI模型/AI应用。可见,ModelBox考虑了典型AI应用的全生命周期,包括模型的训练及增量训练、AI应用的开发调试、复杂的部署环境、样本数据/难例数据的收集及运维监控等环节,基于ModelBox开发者可以快速高效的完成AI应用的开发及运营维护等工作。

results matching ""

    No results matching ""