论文研究一种交替变换更新层数的DBNDNN快速训练方法.pdf

针对语音识别中DBN-DNN训练时间过长的问题，提出了一种DBN-DNN网络的快速训练方法。该方法从减少误差反向传播计算量的角度出发，在更新网络参数时，通过交替变换网络更新层数来实现加速；同时，也设计了逐渐减少网络全局更新频率和逐渐减少网络更新层数两种实施策略。这种训练方法可以与多种DNN加速训练算法相结合。实验结果表明，在不影响识别率的前提下，该方法独立使用或与随机数据筛选（stochasticdatasweeping，SDS）算法、ASGD算法等DNN加速训练算法相结合，都可以取得较为理想的加速结果。