使用多个GPU的深度神经网络快速训练算法

远端深层神经网络(DNN)被成功取代语音识别领域,成为一种很具发展潜力的语音识别模型。然而,由于其训练算法复杂度高,通过训练数据和网络规模为提高DNN的训练效率,该文研究了基于多图形处理器(graph-ic处理单元,GPU)的DNN快速训练算法。在TIMIT数据集上的音素识别实验显示:在基本保证识别性能的替代下,优化后的DNN快速训练方法在4个GPU下训练速度比例单GPU有约3.3倍的提升。实验结果表明该快速训练方法可以显着提升DNN模型的训练速度。