악성 스크립트 키디의 공격

DARPA의 AIxCC(AI Cyber Challenge)는 AI 기반 취약점 탐지 시스템의 실력을 검증하는 대회로, 참가팀들의 자동화 도구가 5,400만 줄의 실제 소프트웨어 코드를 스캔하여 인위적으로 주입된 버그뿐 아니라 DARPA가 의도하지 않은 실제 취약점까지 십수 개 발견했다. 이러한 AI 보안 도구는 정적 분석(static analysis), 퍼징(fuzzing), 심볼릭 실행(symbolic execution) 같은 전통 기법에 LLM 기반 코드 의미 추론을 결합해, 함수 호출 그래프와 데이터 흐름을 이해하고 메모리 안전성·인증 우회·인젝션 같은 결함 패턴을 자동으로 식별한다. 특히 Anthropic이 최근 공개한 Claude Mythos는 단순한 패턴 매칭을 넘어 코드의 의도와 컨텍스트를 파악해 zero-day급 취약점을 능동적으로 발굴하는 수준에 도달한 것으로 평가된다.

문제는 이 능력이 양날의 검이라는 점이다. 같은 도구가 방어자에게는 사전 패치 기회를 주지만, 공격자에게는 진입 장벽을 극적으로 낮춰 "스크립트 키디(script kiddies)"조차 고도화된 공격을 수행할 수 있게 만든다. 과거에는 오픈소스 라이브러리의 취약점을 찾으려면 깊은 리버싱·바이너리 분석 역량이 필요했지만, 이제 LLM에게 "이 라이브러리에서 RCE 후보를 찾아줘"라고 지시하는 것만으로 익스플로잇 후보를 받을 수 있다. 즉 npm, PyPI, Maven 같은 공급망에 존재하던 잠재 결함이 빠른 속도로 무기화될 수 있고, 패치 공개 후 공격까지의 시간(time-to-exploit)이 며칠에서 몇 시간 단위로 단축될 위험이 있다.

개발자 입장에서 가장 시급한 대응은 의존성 관리와 시큐어 코딩 습관의 재정비다. Dependabot·Renovate 등을 활용한 자동 업데이트, SBOM(Software Bill of Materials) 기반의 자산 가시성 확보, CI 파이프라인에 SAST/DAST·시크릿 스캐닝을 기본으로 통합하는 것이 더 이상 선택이 아닌 필수가 되었다. 또한 자체 코드베이스에 대해 Claude Code, Cursor, GitHub Copilot Autofix 같은 AI 어시스턴트로 선제적인 보안 리뷰를 돌리는 것을 권장한다 — 공격자가 쓸 수 있는 무기를 방어자도 동일하게 들어야 균형이 맞기 때문이다.

장기적으로는 "AI가 찾은 취약점을 AI가 패치하는" 자동 방어 루프가 표준이 될 가능성이 높다. 한국 개발팀이라면 사내 보안팀과 협업해 AI 기반 취약점 스캐닝의 도입 로드맵을 마련하고, 특히 외부에 노출된 API·인증 모듈·파일 업로드 처리 부분처럼 공격 표면이 큰 영역부터 우선 점검할 필요가 있다. AI가 보안의 게임 룰을 바꾸고 있는 지금, 방어자가 도입을 늦출수록 공격자와의 비대칭은 커진다는 점을 기억해야 한다.