GNN Feature Decomposition:使用特征分解方法加速GNN推理 源码
GNN特征分解 概述 这是我们工作的存储库:GNN特征分解,被RTAS 2021(Brif行业跟踪)接受,名为“优化边缘计算平台上的图形神经网络的内存效率” 图神经网络(GNN)在各种工业任务上都达到了最先进的性能。 但是,GNN推理效率低下和频繁的内存不足(OOM)问题限制了GNN在边缘计算平台上的成功应用。 为了解决这些问题,提出了一种特征分解方法,用于GNN推理的内存效率优化。 所提出的方法可以在各种GNN模型上实现出色的优化,涵盖了广泛的数据集,从而将推理速度提高了3倍。 此外,提出的特征分解可以显着减少峰值内存使用量(内存效率提高高达5倍),并减轻了GNN推理过程中的OOM问题。 要求 需要最新版本的PyTorch,numpy,torch_geometric(1.6.3)。 #### Contents此仓库中有两个主要的顶级脚本: 1.test_gnn_layer.py:
下载地址
用户评论