
ModelBox
ModelBox是一套统一的端边云AI应用开发和运行框架的规范,以及在此规范上所实现的运行时框架。 在此基础上,各参与方可贡献相关的代码、工具、平台、文档等相关内容。

高效开发,高性能推理
基于ModelBox开发镜像高效开发您的AI应用, 屏蔽底层差异,快速部署至端、边、云上进行高性能推理计算。
AI 应用开发普遍难点

ModelBox 优势

高效开发
功能模块化,预置丰富模块,可视化编排

高性能
智能调度,计算更高效

屏蔽软硬件差异
支持多种深度学习框架,运行在异构硬件、多种操作系统上

全场景开发
支持视频、语音、文本、NLP场景的AI应用开发

易于集成
集成云上对接的组件,云上对接更便捷

易于维护
运行状态、应用、性能实时监控
适用对象

AI应用开发者
AI应用开发者完成模型训练后,适用ModelBox规范开发成AI应用, 即可快速部署在端、边、云,并快速对接业务系统与实现落地。

平台集成开发者
平台集成开发者通常已经拥有自己的平台,在平台中集成ModelBox框架, 可更好对接AI应用,从而向平台用户提供一个更具竞争力的AI平台或业务系统。
适配列表
硬件适配
X86+GPU
ARM+Ascend芯片
X86+Ascend芯片
Hi35xx(NINIE)
...
推理框架
Tensorflow
TensorRT
PyTorch
Mindspore
...
操作系统
Ubuntu
EulerOS
...