整体流程
ModelBox优势
高效开发
AI推理业务可视化编排开发，功能模块化，功能单元丰富，多语言支持
高性能
Pipeline并发运行，数据计算智能调度，资源管理调度精细化，业务运行更高效
屏蔽软硬件差异
跨异构硬件、操作系统、推理框架，资源利用更便捷高效
全场景开发
支持视频、语音、文本、NLP场景的AI应用开发
易于集成
便捷集成云上功能单元，端边云数据无缝交换
易于维护
状态可视化，应用，功能单元性能实时监控
适用对象
AI应用开发
AI应用开发者完成模型训练后，适用ModelBox规范开发成AI应用，即可快速部署在端、边、云，并快速对接业务系统与实现落地
平台集成开发
平台集成开发者通常已经拥有自己的平台，在平台中集成ModelBox框架，可更好对接AI应用，从而向平台用户提供一个更具竞争力的AI平台或业务系统
适配列表
硬件适配
X86+GPU
ARM+Ascend芯片
X86+Ascend芯片
Hi35xx(NINIE)需定制，根据系统编
...
推理框架
Tensorflow
TensorRT
PyTorch
Mindspore
...
操作系统
Ubuntu
EulerOS
...
应用案例
智慧出行
业务算法
- 乘客人数检测
- 打电话动作检测
- 抽烟动作检测
- 人脸属性
框架优势
- 业务算法推理性能提升8 ~ 100倍，大幅降低成本
- 业务算法可部署在多种异构硬件上运行，屏适配多种操作系统、AI推理框架
合作企业