T2T ViT 源码

令牌到令牌的ViT:在ImageNet上从头开始培训视觉变形金刚, 更新: 2021/03/02:更新我们的新结果。 现在,通过在ImageNet上从头开始训练,具有21.5M参数的T2T-ViT-14可以达到81.5%的top1-acc。 2021/02/21:我们的T2T-ViT可以使用“ --amp”(自动混合精度)稳定地在大多数常见GPU上进行训练:1080Ti,2080Ti,TiTAN V,V100。 在某些特定的GPU(例如Tesla T4)中,“ amp”在训练T2T-ViT时会导致NAN损失。 如果您在训练中失去NAN,可以通过在删除'--amp'来禁用amp。 2021/02/14:更新token_performer.py,现在可以在具有12G内存的4个GPU上训练T2T-ViT-7,T2T-ViT-10,T2T-ViT-12,其他T2T-ViT也可以在4个或4个