tensorpeers:tensorflow模型的p2p对等训练 源码

Tensorpeers 深度学习张量模型的P2P对等训练 不要与相混淆,但是大概可以从tf.train.Supervisor等中学到很多东西 社区力量 在深度学习的黄金时代,百度等人已经表明,训练时间几乎可以随GPU数量线性增长。 到目前为止,这为大型企业提供了运行中最好的AI系统优于初创企业的优势。 Tensorpeers将使社区能够将他们的努力和GPU时间结合在一起,以Swift融合出精彩的模型。 建筑 由于Internet连接相对较慢,因此该体系结构必须与现有的“参数服务器”方案稍有不同。 但是,我们的乐观猜测是,这不会妨碍该项目的成功:只要我们找到任何能够成功地将所获得的两次运行知