1. 首页
  2. 数据库
  3. 其它
  4. 浅谈pytorch中的BN层的注意事项

浅谈pytorch中的BN层的注意事项

上传者: 2020-12-21 00:54:38上传 PDF文件 59.21KB 热度 8次
最近修改一个代码的时候,当使用网络进行推理的时候,发现每次更改测试集的batch size大小竟然会导致推理结果不同,甚至产生错误结果,后来发现在网络中定义了BN层,BN层在训练过程中,会将一个Batch的中的数据转变成正太分布,在推理过程中使用训练过程中的参数对数据进行处理,然而网络并不知道你是在训练还是测试阶段,因此,需要手动的加上,需要在测试和训练阶段使用如下函数。 model.train() or model.eval() BN类的定义见pytorch中文参考文档 补充知识:关于pytorch中BN层(具体实现)的一些小细节 最近在做目标检测,需要把训好的模型放到
用户评论