우버, AWS 파트너십 확대로 AI 역량 강화

Uber가 AWS와의 파트너십을 확대하여 자사 AI 역량을 강화하겠다고 발표했다. 핵심은 AWS의 자체 설계 AI 칩인 Trainium과 Inferentia를 활용하여 실시간 운영 최적화와 AI 모델 개발을 가속화하는 것이다. Uber는 매초 수백만 건의 라우팅, 가격 책정, ETA 예측을 처리해야 하는 초대규모 실시간 시스템을 운영하고 있으며, 이러한 워크로드에 NVIDIA GPU 대신 AWS 커스텀 실리콘을 도입함으로써 추론 비용을 절감하고 처리량을 높이려는 전략이다. Trainium은 대규모 모델 훈련에, Inferentia는 저지연 추론에 특화된 칩으로, 각각 PyTorch 및 JAX 프레임워크와 AWS Neuron SDK를 통해 연동된다.

개발자와 엔지니어에게 이 소식이 시사하는 바는 크다. 첫째, AI 인프라의 선택지가 NVIDIA 중심에서 클라우드 벤더 자체 칩으로 다변화되고 있다는 점이다. Uber 규모의 기업이 AWS 커스텀 칩을 프로덕션에 채택한다는 것은 해당 칩의 성숙도와 안정성이 실무 수준에 도달했음을 의미한다. 둘째, 추론 비용 최적화가 AI 서비스 운영의 핵심 경쟁력이 되고 있다. 모델 성능뿐 아니라 서빙 단가를 얼마나 낮출 수 있느냐가 실시간 AI 기능의 확장 가능성을 결정짓는 시대가 온 것이다.

실무 관점에서 개발자들이 주목해야 할 점은 다음과 같다. AWS Neuron SDK와 커스텀 칩 기반의 모델 최적화 파이프라인에 대한 이해가 점차 중요해질 것이다. 기존에 CUDA 생태계에만 익숙했다면, 이제는 Neuron Compiler를 통한 모델 컴파일, 연산자 호환성 확인, 그리고 칩별 성능 프로파일링 같은 영역으로 기술 스택을 넓힐 필요가 있다. 또한 SageMaker, Bedrock 등 AWS의 관리형 AI 서비스가 이 커스텀 칩과 긴밀하게 통합되고 있으므로, 클라우드 네이티브 AI 아키텍처를 설계할 때 하드웨어 추상화 계층까지 고려하는 습관을 들이는 것이 장기적으로 비용과 성능 모두에서 유리한 포지션을 확보하는 길이 될 것이다.