ModelBox是一套统一的端边云AI应用开发和运行框架的规范,以及在此规范上所实现的运行时框架。 在此基础上,各参与方可贡献相关的代码、工具、平台、文档等相关内容。
AI 应用开发普遍难点
ModelBox 优势
高效开发
功能模块化,预置丰富模块,可视化编排
高性能
智能调度,计算更高效
屏蔽软硬件差异
支持多种深度学习框架,运行在异构硬件、多种操作系统上
全场景开发
支持视频、语音、文本、NLP场景的AI应用开发
易于集成
集成云上对接的组件,云上对接更便捷
易于维护
运行状态、应用、性能实时监控
适用对象
AI应用开发者
AI应用开发者完成模型训练后,适用ModelBox规范开发成AI应用, 即可快速部署在端、边、云,并快速对接业务系统与实现落地。
平台集成开发者
平台集成开发者通常已经拥有自己的平台,在平台中集成ModelBox框架, 可更好对接AI应用,从而向平台用户提供一个更具竞争力的AI平台或业务系统。
适配列表
X86+GPU
ARM+Ascend芯片
X86+Ascend芯片
Hi35xx(NINIE)
...
Tensorflow
TensorRT
PyTorch
Mindspore
...
Ubuntu
EulerOS
...
适配列表
硬件适配
X86+GPU
ARM+Ascend芯片
X86+Ascend芯片
Hi35xx(NINIE)
...
推理框架
Tensorflow
TensorRT
PyTorch
Mindspore
...
操作系统
Ubuntu
EulerOS
...