robust_overfitting 源码

在对抗性强的深度学习中过度拟合 实施实验以探究鲁棒过拟合现象的存储库,其中过强的测试性能会因训练而明显下降。由 , 和。请在查看有关arXiv的论文。 消息 月10日-Croce 的AutoAttack框架使用此存储库评估了我们发布的模型。在CIFAR10上,我们的模型采用标准PGD和早期停止训练,在整体上排名第5,而在不依赖其他数据的防御下排名第1。 2020年2月26日-arXiv发布和版本库发布 健壮的过度拟合伤害-尽早停止是必不可少的! 在过去的几年中,大量研究已针对防御对抗性示例的防御性深层网络进行了研究,与基于PGD的著名对抗性训练防御相比有了显着改进。但是,对抗训练并不总是与标准训练类似。我们发现的主要观察结果是,与标准训练不同,对收敛的训练会严重损害鲁棒的概括性,并且实际上会在训练收敛之前很早地增加鲁棒的测试错误,如以下学习曲线所示: 在初始学习率下降之后,健壮的测试误差