CPU GPU异构系统下的片上网络仲裁机制研究

在CPU-GPU异构系统架构中,由于GPU程序的多线程特点,大多数GPU程序会垄断系统中的共享资源,例如片上网络。这将给CPU程序的性能造成很大的损失。我们发现有一些GPU程序性能对网络延迟表现为不敏感。当CPU、GPU程序同时竞争片上网络时,降低这类对网络延迟不敏感的GPU程序的优先级,提高CPU程序的优先级,结果会对GPU程序的性能会造成很小的损失,同时可以大幅提高CPU程序的性能。因此,我们可以通过适时提高CPU程序的网络使用优先级来优化CPU程序的性能。当前通用的循环调度片上网络仲裁机制并没有考虑CPU、GPU程序不同的特性,系统性能存在提升的空间。基于此,我们提出一种新的基于