QuantizeBuilder 工具链

QuantizeBuilder 工具链 是一个为精卫JINGRT 4.0 流计算架构设计的一套提供深度学习算法和模型快速部署的开发工具链,支持TensorFlow、Caffe、Mxnet、Pytorch等主流深度学习框架。
可应用在大规模数据中心或边缘嵌入式平台上,为行业AI解决方案提供低延迟、高吞吐率的部署推理。开发者只需两步,即可实现神经网络模型在伏羲F3A推理计算卡、景致BOX边缘小站、伏羲T8S高性能推理服务器上高效部署和运行。

实现边缘设备高性能推理

更快的推理速度、更高的精度

更高的吞吐量和更低的功耗

支持多种深度学习框架

支持TensorFlow、Caffe、Mxnet、Pytorch等

可在不同框架之间进行无缝切换

优化模型

更高的准确性、更小的模型体积

更少的算力需求