如何解决在用pytorch训练过程中,经过5 6个epoch训练速度变慢,GPU使用率达到100%,放到4090上运行还是出现相同的情况,加了torch.cuda.empty_cache()也不起作用
参考园子里的博文:pytorch学习笔记——训练时显存逐渐增加,几个epoch后out-of-memory
多谢
了解下混合精度的训练方式