AI

엔비디아 테슬라 GPU는 WSL 2 미지원.

KimUH 2024. 6. 6. 11:48

소프트웨어 세팅만으로 AI 추론 실행 속도를 높여준다는 vllm와 aphrodite-engine을 알게 되었다.

그 중 aphrodite-engine은 보유 중인 구형 파스칼 아키텍쳐 GPU도 지원된다고 명시되어 있다.

 

vllm과 aphrodite-engine  모두 리눅스 전용이지만, 윈도우 내장 리눅스인 wsl 2도 지원한다고 해서 wsl 2에 설치했다.

그런데, 설치 방법대로 따라해도 계속 에러가 발생하는 것이었다.

그리하여, 오랜 시간동안 수많은 검색과 조사를 거쳐서 드디어 원인을 찾았다.

더보기

WSL 2 GPU acceleration will be available on Pascal and later GPU architecture on both GeForce and Quadro product SKUs in WDDM mode. It will not be available on Quadro GPUs in TCC mode or Tesla GPUs yet.

(WSL2 GPU 가속은 파스칼 및 이후 GPU 아키텍쳐에서 지포스/쿼트도 계열 제품군 WDDM 모드에서 지원됩니다.

쿼드로 계열 제품군 TCC모드 혹은 테슬라 GPU에서는 아직 지원되지 않습니다.)

(참고 링크 : : https://docs.nvidia.com/cuda/wsl-user-guide/index.html)

 

결론은 보유 중인 GPU로는 WSL 2가 안 되네. ㅎㅎ