heterogeneity aware lowering and optimization:异质性降低和优化 源码

光环 ħeterogeneity-甲洁具大号开花和O ptimization(卤)是异构计算加速度基于编译器的技术平台。 它通过称为开放式深度学习API( ODLA )的抽象,可扩展接口,利用针对深度学习领域的异构计算能力。 HALO提供了针对云,边缘和IoT场景自动量身定制的统一的提前准备编译解决方案。 HALO支持多种编译模式。 在提前(AOT)编译模式下,HALO将AI模型编译为用ODLA API编写的C / C ++代码。 编译的模型可以在具有相应ODLA运行时库的任何受支持平台上运行。 另外,HALO能够同时编译主机和异构设备代码。 下图显示了整个编译流程: HALO支持从以下框架中编译模型: 咖啡 昂尼克斯 TensorFlow TFLite 不久将支持更多框架。 HALO通过其支持: 。 Hanguang-800 NPU由阿里巴巴集团的业务实体(也称为PingT