CUDA toolkit 설치하기, PyTorch GPU 호환 버전 설치하기 (PyTorch 2.0.1+cpu 오류, CUDA 설치 호환, PyTorch CUDA 버전 호환, 파이토치 쿠다 호환)

nvidia cuda 설치 pytorch gpu

PyTorch를 GPU에서 돌아가는 CUDA 호환 버전으로 설치하자.

 

pytorch gpu 호환 확인

python -c "import torch; print(torch.cuda.is_available())"

이미 pytorch를 설치했다면, gpu가 사용가능한지 확인해보자.

사용가능한 상태라면 True, 아니면 False가 뜰 것이다.

 

CUDA 쿠다 버전 확인

nvidia-smi

이 명령어를 쳤을 때 

 

위와 같이 나온다면, CUDA 드라이버는 설치되어있는 상태이다.

 

CUDA toolkit 설치

nvcc --version

위 명령어로 버전을 확인할 수 있다.

버전이 안 뜬다면 cuda toolkit을 설치하자.

 

주의할 점은 사용할 torch의 버전과 호환되는 toolkit 버전을 설치해야한다.

 

아래 링크에서 내 GPU에 해당하는 CUDA SDK 버전을 확인하고, 호환되는 CUDA ToolKit을 설치하자.

 

GPU CUDA SDK 버전 확인

 

CUDA ToolKit 설치하기

 

 

예를 들어, 현재 내가 쓰는 연구실컴은 GPU가 RTX 3060Ti 이므로 CUDA SDK version은 8.6이고 11.1~12.4 사이를 받아야한다.

 

여기서 pytorch를 2.0.0 버전을 사용할 것이라면 11.8을 쓰는 것이 좋다.

 

 

 

nvcc --version

정상적으로 설치 되었는지 nvcc로 확인해보자.

 

PyTorch 파이토치 GPU 설치

이후 아래 링크에서 CUDA 버전에 호환되는 파이토치 버전을 확인하고 설치하면 된다.

 

파이토치 GPU 호환 설치하기

 

 

# CUDA 11.8
conda install pytorch==2.2.1 torchvision==0.17.1 torchaudio==2.2.1 pytorch-cuda=11.8 -c pytorch -c nvidia

그 다음 11.8 버전에 맞는 pytorch GPU버전을 다운 받는다.

 

이제 torch로 명령어들이 잘 작동한다.

 

마무리

설치도 완료했고 CUDA 관련 환경세팅이 마무리 되었다면

 

이제 학습을 돌리러 갈 차례이다!