sru:与RNN一样快地训练RNN(https:arxiv.orgabs1709.02755) 源码
关于 SRU是循环单元,其运行速度比cuDNN LSTM快10倍以上,而不会在许多任务上测试准确性。 在GTX 1070上测试的LSTM,conv2d和SRU的平均处理时间 例如,上图显示了32个样本的单个小批量处理时间。 与LSTM相比,SRU的速度提高了10到16倍,并且运行速度与使用conv2d进行的字级卷积一样快(或更快)。 有多个版本,请检查最新版本。 参考: 简单的递归单位可实现高度并行的重复 @inproceedings{lei2018sru, title={Simple Recurrent Units for Highly Parallelizable Recurre
下载地址
用户评论