明明显存很大了,还一直报显存不足?
用记事本类文本编辑文件打开SD目录下的 webui-user.bat 档案~ 新加一行
set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32
进一步优化
有了上述结论,就可以导出最优设置策略:将max_split_size_mb设置为小于OOM发生时的显存请求大小最小值的最大整数值,就可以在保证跑大图的可行性的同时最大限度照顾性能。
笔者的观测OOM请求最小值是6.18GB,所以最终选择了6144作为最优设置:
set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:6144
参考网站:https://blog.csdn.net/MirageTanker/article/details/127998036
© 版权声明
分享是一种美德,转载请保留原链接
THE END
暂无评论内容