NVIDIA CUDA 13.4를 사용한 Kubernetes에서의 메모리 강제 적용 GPU 공유

많은 AI 워크로드는 GPU의 일부분만 필요로 합니다. 각 워크로드에 전체 GPU 장치를 할당하면 여유 용량이 발생할 수 있습니다. GPU를 공유함으로써 플랫폼 팀은 이미 보유한 인프라로 더 많은 워크로드를 처리할 수 있습니다. NVIDIA GPU는 이미 여러 가지 공유 방식을 지원합니다. 다중 인스턴스 GPU(MIG)는 GPU를 하드웨어적으로 격리된 인스턴스로 분할하여 애플리케이션에 대해 투명하게 제공합니다…

출처