오픈소스 AI 발전을 위한 NVIDIA, Kubernetes 커뮤니티에 GPU 동적 자원 할당 드라이버 기부

NVIDIA가 GPU용 Dynamic Resource Allocation(DRA) 드라이버를 쿠버네티스 커뮤니티에 오픈소스로 기증한 것은 클라우드 네이티브 AI 인프라의 중요한 전환점이다. 기존 쿠버네티스에서 GPU 리소스를 관리하려면 Device Plugin 인터페이스를 사용했는데, 이 방식은 GPU를 단순한 정수 카운트(예: `nvidia.com/gpu: 2`)로만 요청할 수 있어 MIG(Multi-Instance GPU) 파티셔닝, GPU 간 NVLink 토폴로지 인식, 시분할 공유 같은 세밀한 제어가 불가능했다. DRA는 쿠버네티스 1.26에서 알파로 도입된 새로운 리소스 할당 프레임워크로, `ResourceClaim`과 `ResourceClass` 같은 커스텀 오브젝트를 통해 하드웨어 벤더가 자체 할당 로직을 구현할 수 있게 해준다. NVIDIA의 DRA 드라이버는 이 프레임워크 위에서 GPU의 물리적 토폴로지, 메모리 용량, 컴퓨트 능력 등을 고려한 지능적 스케줄링을 수행한다.

실무적으로 이 변화가 가져오는 영향은 상당하다. 첫째, AI 학습 워크로드에서 GPU 활용률을 극대화할 수 있다. 예를 들어 하나의 A100 GPU를 MIG로 분할하여 여러 추론 서비스가 공유하거나, 분산 학습 시 NVLink로 직접 연결된 GPU 세트를 우선 할당받는 것이 네이티브하게 가능해진다. 둘째, 이 드라이버가 오픈소스로 공개됨에 따라 벤더 종속(vendor lock-in) 우려가 줄어들고, 커뮤니티가 직접 코드를 감사하고 기여할 수 있어 투명성이 높아진다. 기존에는 NVIDIA의 GPU Operator와 독점적 Device Plugin에 의존해야 했던 부분이 이제 커뮤니티 주도로 발전할 수 있는 기반이 마련된 것이다.

한국 기업의 AI 플랫폼 엔지니어와 MLOps 엔지니어가 주목해야 할 액션 아이템은 명확하다. 먼저 현재 운영 중인 쿠버네티스 클러스터의 버전이 DRA를 지원하는지 확인하고(1.31 이상에서 베타로 안정화), 기존 Device Plugin 기반 GPU 스케줄링에서 DRA 기반으로의 마이그레이션 로드맵을 수립해야 한다. 특히 GPU 클러스터 비용이 전체 인프라 예산의 상당 부분을 차지하는 조직이라면, DRA의 세밀한 리소스 할당을 통해 GPU 활용률을 높이는 것만으로도 유의미한 비용 절감을 기대할 수 있다. 또한 NVIDIA가 이를 오픈소스로 전환했다는 것은 향후 쿠버네티스 생태계에서 DRA가 GPU 관리의 표준이 될 가능성이 높다는 신호이므로, 지금부터 관련 KEP(Kubernetes Enhancement Proposal)와 드라이버 저장소를 모니터링하며 기술 역량을 확보해두는 것이 바람직하다.