Broadcom이 OpenAI의 맞춤형 칩을 만들지 않겠다는 보고, 마이크로소프트가 40%를 구매해야 한다고

OpenAI가 Broadcom과 추진 중인 맞춤형 AI 칩 프로젝트는 ASIC(주문형 반도체) 방식으로, 추론(inference) 워크로드에 특화된 설계를 목표로 한다. 일반적으로 이런 칩은 GPU와 달리 특정 모델 아키텍처(예: Transformer 추론 경로)에 맞춰 데이터 흐름과 메모리 계층을 최적화하기 때문에, 동일 전력 대비 처리량(Perf/Watt)을 크게 높일 수 있다. 다만 ASIC은 NRE(비반복적 엔지니어링) 비용과 마스크 제작비, TSMC 같은 파운드리의 첨단 공정(3나노급) 캐파 선점 비용이 막대해, 1단계에만 약 180억 달러가 들어가는 구조다. Broadcom 입장에서는 단일 고객(OpenAI) 의존 리스크가 너무 커서, Microsoft가 40% 물량을 사전 약정해 줘야 양산 라인을 확정하겠다는 입장이고, 이 때문에 Sachin Katti가 "재무적으로 매력 없는 종속 구조"라고 내부에서 평가한 것이다.

이 이슈가 개발자 입장에서 의미하는 바는, 가까운 미래에도 LLM 추론 인프라가 NVIDIA GPU 중심으로 유지될 가능성이 더 커졌다는 점이다. OpenAI 자체 칩이 양산되면 API 단가 인하와 처리량 확대로 이어질 수 있었지만, 자금 구조 협상이 길어지면 그만큼 출시가 미뤄지고, 결과적으로 GPT-5 계열 모델의 토큰 단가나 컨텍스트 한계, 레이트 리밋 정책에도 영향을 준다. 또한 Microsoft가 40% 인수에 동의할 경우 Azure에서 OpenAI 전용 칩 인스턴스가 등장할 수 있고, 반대로 결렬되면 OpenAI는 AMD MI300X, Google TPU, 자체 라이선싱 등으로 분산 전략을 강화할 가능성이 높다. 이는 결국 어떤 클라우드에서 어떤 모델을 호스팅할지의 지형도를 바꾸는 변수다.

실무 관점에서 한국 개발자가 지금 취할 수 있는 행동은 두 가지다. 첫째, 추론 비용 변동성에 대비해 모델 호출 코드를 추상화 레이어(LangChain, LiteLLM, 자체 라우터 등)로 감싸 두는 것이 좋다. OpenAI 단일 의존을 줄이고 Anthropic Claude, Google Gemini, 오픈소스 모델(Llama, Qwen)로 폴백할 수 있도록 어댑터 패턴을 적용하면, 칩 공급 이슈로 인한 가격·성능 변화에 빠르게 대응할 수 있다. 둘째, 프롬프트 캐싱과 배치 API, 컨텍스트 압축 같은 비용 최적화 기법을 지금부터 도입해 둘 필요가 있다. 자체 칩 출시가 늦어질수록 OpenAI는 GPU 임대료 부담을 가격에 반영할 수밖에 없고, 이미 일부 모델에서 입력 토큰 캐시 할인(최대 90%)이 강화되는 흐름이 그 신호다.

마지막으로 아키텍처 결정권자라면 "벤더 중립적 추론 게이트웨이" 도입을 진지하게 검토할 시점이다. Broadcom-Microsoft-OpenAI 삼각관계가 향후 6~12개월간 어떻게 정리되느냐에 따라 동일 품질의 응답을 절반 가격에 얻을 수 있는 모델이 바뀔 수 있고, 멀티 클라우드(Azure-AWS Bedrock-GCP Vertex) 분산 전략이 단순한 리스크 헤지가 아니라 실제 비용 절감 수단이 될 가능성이 크다. 이번 뉴스는 단순한 기업 협상 이슈가 아니라, 우리가 짜는 AI 서비스의 원가 구조에 직결되는 공급망 리스크라는 점을 인식하고 모니터링할 필요가 있다.