CUDA out of memory报错 绘图显存不足

明明显存很大了,还一直报显存不足?

用记事本类文本编辑文件打开SD目录下的 webui-user.bat 档案~ 新加一行

set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:32

webcy205-0914-1

 

进一步优化
有了上述结论,就可以导出最优设置策略:将max_split_size_mb设置为小于OOM发生时的显存请求大小最小值的最大整数值,就可以在保证跑大图的可行性的同时最大限度照顾性能。
笔者的观测OOM请求最小值是6.18GB,所以最终选择了6144作为最优设置:

set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:6144

参考网站:https://blog.csdn.net/MirageTanker/article/details/127998036

© 版权声明
THE END
如果喜欢,可以【点赞】【分享】【收藏】
点赞5赞赏 分享
评论 抢沙发
头像
非注册用户需审核通过后才能查看。友好交流,勿发纯表情,勿恶意灌水!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容