클라우드 마이스토스 미리보기, 코드 보안을 유지하기 위한 새로운 방식 필요

Anthropic의 Frontier Red Team이 공개한 Claude Mythos Preview는 명시적 학습 없이도 주요 OS와 웹 브라우저 전반에서 수천 개의 고위험·치명적 취약점을 찾아냈고, OpenBSD의 27년 묵은 원격 크래시 버그, 도메인 간 데이터 유출이 가능한 브라우저 익스플로잇, 암호화 통신 복호화·인증서 위조로 이어질 수 있는 암호 라이브러리 결함까지 포함됐다. 핵심은 LLM이 단순 패턴 매칭에 머물지 않고 추상화 계층을 가로지르며 데이터 플로우를 추적하는 "교차 컴포넌트 추론(cross-component reasoning)"을 수행한다는 점이다. 기존 SAST(정적 분석) 도구가 룰 기반으로 탐지하지 못하던 의미론적 결함을, 보안 연구자가 사고하는 방식에 가깝게 추적할 수 있게 됐다는 것이 Sonar, Upgrade, Theori 전문가들의 공통 평가다. 더 나아가 Mythos Preview는 별개의 취약점들을 체이닝해 Linux 커널 루트 권한까지 얻는 단계별 익스플로잇을 자동 구성할 수 있어, 탐지 도구이자 동시에 공격 도구로 작동할 수 있는 양면성을 보여준다.

Anthropic은 이 결과를 바탕으로 AWS·Apple·Google·Microsoft·Nvidia를 런치 파트너로 하는 Project Glasswing을 출범시켜 Mythos Preview 기반의 코드 스캐닝·보안 강화 파이프라인을 구축하기로 했다. 이는 한국 개발자에게도 직접적인 영향을 미친다. 오픈소스 메인테이너들에게 들어오는 취약점 리포트가 폭증하는 추세이며, 그중 상당수는 "진짜 버그이긴 하지만 보안 취약점은 아닌" 모호한 케이스이거나 심각도가 과대평가된 false positive다. AI 도구가 토해내는 신호 속에서 진짜 위험을 가려내는 트리아지(triage) 부담이 메인테이너와 보안 담당자에게 전가되고 있다는 의미다. 또한 Claude Code Security나 Google의 CodeMender처럼 LLM이 자기 결과를 다른 모델·에이전트에게 검증받는 "adversarial self-review" 패턴이 표준화되고 있어, 단일 LLM 출력만 신뢰하는 워크플로는 빠르게 시대에 뒤떨어지게 될 것이다.

실무적으로는 세 가지 행동이 필요하다. 첫째, AI 보안 도구의 출력은 "확률적 결과"이지 최종 판정이 아니라는 점을 워크플로에 명시적으로 반영해야 한다. Upgrade의 Nayan Goel이 강조하듯, 비즈니스 로직을 이해하는 사람이 검증하는 human-in-the-loop와 trust boundary 설계 없이는 시큐어 디자인 리뷰나 펜테스트를 대체할 수 없다. 둘째, AI 코딩 어시스턴트 자체가 prompt injection 등으로 공격 표면이 되는 만큼, 사내 코드베이스에 AI 에이전트를 붙일 때는 동적 위협 모델링과 레드팀 평가를 시스템 진화에 맞춰 반복 수행해야 한다. 셋째, "shift-left"가 더 절실해졌다. 코드를 작성하는 시점에 개발자가 직접 보안 결함을 인식·수정할 수 있도록 사내 시큐어 코딩 교육과 업스킬링을 상시화하고, 취약점 탐지 이후 자동 패치(remediation) 단계까지 파이프라인을 확장하는 것이 다음 경쟁 영역이 될 전망이다. 결국 AI는 "건초더미 속 바늘"을 빠르게 찾아주지만, 그 바늘이 진짜 위협인지 판단하고 안전하게 제거하는 책임은 여전히 엔지니어에게 있다.