钉头锤:MACE是针对移动异构计算平台优化的深度学习推理框架 源码

| | | | | | 移动AI计算引擎(简称MACE )是针对Android,iOS,Linux和Windows设备上的移动异构计算而优化的深度学习推理框架。 该设计着重于以下目标: 性能 使用NEON,OpenCL和Hexagon对运行时进行了优化,并引入了以加快卷积操作。 初始化也已优化为更快。 能量消耗芯片相关的电源选项,例如big.LITTLE调度,Adreno GPU提示均作为高级API包含在内。 React性 运行模型时,有时必须具有UI响应性保证。 引入了诸如将OpenCL内核自动分解为小单元的机制,以更好地抢占UI渲染任务。 内存使用率和库占用量 支持图级别的内存