AI 주간 특집 #496: 앤티크라의 펜타곤 모델은 이제 모두의 모델이 됐다

Anthropic의 'Mythos'는 그동안 보안 인증을 받은 방위산업 계약자에게만 제한적으로 제공되던 프런티어 모델을 일반 개발자에게 동일하게 개방한 사례다. 기술적으로 보면 이는 별도의 '국방용 모델'과 '상용 모델'을 분리 운영하던 구조가 무너졌음을 의미한다. 모델 가중치·추론 능력은 같고 접근 통제(레드팀 필터, 시스템 프롬프트, 사용 정책, 감사 로깅)만 계층별로 다르게 적용하는 방식이 보편화되고 있다는 신호다. 한편 DeepMind의 AlphaProof Nexus가 미해결 Erdős 문제 9개를 저비용 추론으로 풀어냈다는 소식은, 수학적 정리 증명처럼 검증 가능한(verifiable) 도메인에서 강화학습+탐색 기반 추론이 인간 전문가 수준을 넘어서기 시작했음을 보여준다. 형식 증명은 Lean 같은 증명 보조기로 정답을 기계적으로 검증할 수 있어 보상 신호가 명확하고, 이 때문에 코딩·정리증명이 LLM 자가개선의 최전선이 되고 있다.

개발자 입장에서 더 시급한 것은 보안 뉴스다. Starlette(파이썬 ASGI 프레임워크, FastAPI의 기반)에 치명적 제로데이가 터졌다는 점은 매우 현실적인 위협이다. 수많은 AI 에이전트 백엔드가 FastAPI/Starlette 위에서 외부와 통신하기 때문에, 멀티파트 파싱이나 요청 처리 단계의 취약점은 곧바로 에이전트 인프라 전체의 공격 표면이 된다. 'Glassworm' 개발자 봇넷이 4개의 C2 채널을 통해 확산됐다는 것도 주목할 만한데, 이는 npm/PyPI 패키지나 개발 도구·확장 프로그램을 매개로 한 공급망 공격이 점점 정교해지고 있음을 시사한다. 즉 공격자들이 개발자 워크스테이션과 CI 파이프라인 자체를 노린다는 뜻이다.

산업·지정학적 신호도 무겁다. BNP Paribas–Mistral의 '주권 AI(sovereign AI)' 보안 파트너십은 규제 산업(금융·공공)이 데이터 주권과 모델 통제권 때문에 자국·역내 모델을 선택하는 흐름을, 중국이 알리바바·DeepSeek 핵심 엔지니어의 해외여행을 제한한 조치는 AI 인재가 전략 자산으로 취급되기 시작했음을 보여준다. 동시에 'AI가 일자리를 대체한다'는 서사는 현실적으로 조정되고 있다. Uber가 4월에 연간 AI 토큰 예산을 소진했다는 것은 에이전트 운영의 추론 비용(토큰 단가)이 예측을 크게 벗어날 수 있다는 경고이고, ClickUp이 인간 1,000명과 내부 에이전트 3,000개를 함께 운영하는 구조는 '대체'가 아니라 '인간+에이전트 협업 운영'이 실제 정착 형태임을 보여준다. Sam Altman이 화이트칼라 종말론을 철회한 것도 같은 맥락이다.

실무적으로 취해야 할 행동은 분명하다. 첫째, Starlette/FastAPI 의존성을 즉시 패치 버전으로 올리고, 에이전트 백엔드의 입력 검증·요청 크기 제한·타임아웃을 점검하라. 둘째, 공급망 방어를 강화하라 — 의존성 lockfile 고정, 패키지 서명·해시 검증, CI에서의 SBOM·시크릿 스캐닝, 그리고 개발 도구 확장의 출처 확인이 기본이 되어야 한다. 셋째, AI 에이전트를 프로덕션에 투입한다면 토큰 비용을 1급 운영 지표로 관리하고(사용량 상한·서킷 브레이커·캐싱·모델 라우팅), 비용 폭주를 막을 가드레일을 미리 설계하라. 넷째, '국방급=상용급'이 된 만큼 모델 자체의 성능 격차보다 접근 통제·감사·데이터 거버넌스가 차별화 요소가 되므로, 자사 워크플로에서 모델 호출 로깅과 정책 계층을 어떻게 둘지 지금부터 고민하는 것이 현명하다.