윈도우 10 RTX 4090 쿠다 환경설정

------------

아래 티스토리를 전체적으로 참고하며 차근차근 설정을 진행해보았다

https://hyunhp.tistory.com/740

 

 

진행 과정에서 내가 겪었던 문제들 까지 함께 적어보았다.

 

파란 글씨들을 주의하며 미리 대처한다면 큰 문제 없이도 window 환경에서의 지피유를 사용할 수 있을 것이라고 생각한다 :)

 

----------------------------------------------

 

 

딥러닝 학습을 위해서는 GPU가 필요하다

윈도우 환경에서 GPU 사용을 위한 환경설정을 해보자

 

//완전히 새로운 환경이라면 vscode, anaconda, python는 설치하고 오자

+ 다들 알겠지만.. 루트는 웬만하면 다 영어로 하자      *window 계정까지도.. 설정할 땐 꼭 영어로 

 

 

1. 본인 NVIDIA GPU 버전 확인

장치 관리자 -> 디스플레이 어댑터 확인 -> NVIDIA GPU 확인

 

 

 

2. CUDA compute capability 확인

https://developer.nvidia.com/cuda-gpus

CUDA GPUs - Compute Capability

위 사이트에 들어가 자신의 쿠다 버전에 맞는 compute capability를 확인하자

GeForce RTX 4090의 경우 8.9임을 알 수 있음

 

이를 가지고 CUDA SDK 버전을 정확하게 알 수 있다

 

 

 

 

그 후 아래 표에서 각자 버전에 맞는 CUDA SDK를 확인하자

RTX 4090 -> 8.9 => CUDA SDK 11.8 ~ 12.5 (여기서 무조건 가장 최신이 좋은 건 아니다)

딥러닝 프레임워크나 다른 라이브러리와의 호환을 위해서는 새로운 버전은 아직 충분한 테스트가 안 되어 버그나 호환성의 문제가 있을 수 있기 때문이다.

최신 버전의 쿠다를 지원하기위해서는 딥러닝 프레임워크는 약간의 딜레이가 발생하기 때문

 

 

 

 

 

+ 모든 환경 설정 시작 전에.. 일단 나는 가상환경부터 설정 해주겠다 

-> 초반에는 중요성을 몰랐지만 점점 여러 프로젝트와 실험을 거듭하다보면 가상환경의 중요성을 알게된다..

 

in) window10

vscode 실행하여 터미널 열기

cd --- #내가 가고 싶은 루트로 고정

 

나는 웬만하면 conda로 환경설정을 하려고 한다

-> 서브 패키지 간 버전 맞추기 수월함

 

conda create --name myenv python=3.8

conda activate myenv

 

in) mac

 

새로운 가상환경 생성 명령어

virtualenv 'myenv' --python=python3.9

 

가상환경 진입

source myenv/bin/activate

 

현 가상환경 패키지 문서화

pip freeze > requirements.txt

 

필요한 가상환경 패키지 한번에 설치

pip install -r requirements.txt

 

 

 

이제 본격적으로 환경설정을 해보자

 

3. NVIDIA driver 설치

https://www.nvidia.com/en-us/drivers/

Download The Latest Official NVIDIA Drivers

 

여기 manual에서 각자의 환경에 맞게 설치한다

 

game ready와 studio 버전이 있는데 크게 상관 없는 것 같다

 

4. CUDA Toolkit 설치

=> 앞서 말했듯이 무조건 나오는 최신 버전 다운로드 보다는 좀 서치해보고 한-두 단계정도 다운그레이드 하는게 좋은 듯 하다

 

https://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local

CUDA Toolkit 12.1 Downloads

 

여기 들어가서 동일하게 자신에게 맞는 버전을 설치한다

 

 

 

앞서 말한 특정한 버전을 다운받고 싶다면 

https://developer.nvidia.com/cuda-toolkit-archive

CUDA Toolkit Archive

여기로 가서 다운 받으면 된다  *이 방법을 더 추천한다

 

 

5. cuDNN 설치

https://developer.nvidia.com/cudnn-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local

cuDNN 9.4.0 Downloads

 

역시나 동일하게 자신에게 맞는 버전 설치하기!

 

 

**버전 수정함**

앞서 말했던 이유로 cuda toolkit과 cudnn 다운그레이드함

아무 생각없이 cuda, cudnn 최신 버전으로 깔았다가 cuda toolkit 다운그레이드 하고 cudnn 맞는 버전으로 다시 다운 받아줌

 

 

 

 

6. cuda 설치 시 경로 알아뒀다가 cuDNN의 lib, bin, --를 설치한 cuda 파일에 넣어주기!!

아마 대부분 아래 경로와 동일한 경로에 cuda toolkit이 생성될 것이므로

-> 특별히 경로 안 바꿔주고 그대로 설치되는 경로만 기억해두다가 붙여넣어 주는 게 더 편함

 

 

 

 

위와 같이 복붙 해준 후, 아래 보이는데로 윈도우 창 검색에서 시스템 환경 변수 편집에 들어가 고급 탭의 환경변수를 눌러 CUDA_PATH와 자신이 설치한 버전의 CUDA_PATH가 있는지 확인해주면 완료다!

 

 

 

 

이것이 잘 됐다면 명령 프롬포트에 nvcc --version을 치면 

이렇게 뜰 것이다 

 

-> nvcc 명령어를 찾을 수 없다고 뜨면 버전이 안 맞는 것이니 그렇다면 다시 설치해야한다..

 

 

7. 마지막, pytorch 다운로드

https://pytorch.org/get-started/locally/

Start Locally

 

 

나 같은 경우에는 vscode의 가상환경에 들어간 후, 아래와 같이 pytorch를 깔아주었다

 

 

 

마지막으로 torch import 한 후  torch에서 쿠다 사용이 가능하다는 메세지까지 완료하였다

 

 

 

행복하다