如何解決“運行時錯誤：CUDA 錯誤：內存不足”？

Question

我導入了 torch 並使用cuda運行了簡單的代碼，但是RuntimeError: CUDA error: out of memory發生RuntimeError: CUDA error: out of memory錯誤。

我的代碼和錯誤是：

>>> import torch
>>> print(torch.rand(1, device="cuda"))
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
RuntimeError: CUDA error: out of memory

Answer 1

我使用torch遇到了同樣的問題，問題通過以下代碼解決：

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '2, 3'