구글, AI로 개발된 제로데이 해킹을 차단

구글 위협 인텔리전스 그룹(GTIG)이 처음으로 AI를 활용해 개발된 제로데이 익스플로잇을 탐지·차단했다고 발표했다. 공격 대상은 오픈소스 기반 웹 시스템 관리 도구의 2단계 인증(2FA) 우회 취약점이었으며, 사이버 범죄 조직이 이를 "대량 익스플로잇 이벤트"에 활용하려던 정황이 포착됐다. 구글 연구진은 익스플로잇 파이썬 스크립트에서 LLM 사용 흔적을 발견했는데, 존재하지 않는 CVE에 매겨진 "환각(hallucinated) CVSS 점수"와 LLM 학습 데이터 특유의 "정형화된 교과서식" 코드 구조가 결정적 단서가 됐다. 이는 공격자가 AI에게 "취약점 분석 보고서 형식으로 PoC를 작성하라"는 식의 프롬프트를 사용했을 가능성을 시사하며, AI가 보안 연구뿐 아니라 공격 도구 제작에도 본격적으로 투입되고 있음을 보여주는 사례다.

기술적으로 주목할 점은 LLM이 생성한 코드의 "지문(fingerprint)"이 역으로 방어자에게 단서가 됐다는 사실이다. LLM은 학습 데이터에 편향된 패턴—예측 가능한 변수명, 과도하게 친절한 주석, 실제 데이터베이스에 없는 가짜 CVE 번호 인용 등—을 남기는 경향이 있다. 이런 특성은 IOC(침해 지표) 탐지 룰에 새로운 차원을 추가한다. 동시에 AI를 활용한 익스플로잇 개발은 기술 진입 장벽을 급격히 낮춘다는 점에서 위협이 크다. 기존에는 숙련된 보안 연구자만이 작성할 수 있던 PoC를 이제 중간 수준의 공격자도 빠르게 양산할 수 있으며, 이는 패치 배포와 익스플로잇 등장 사이의 "취약 윈도우(window of exposure)"를 크게 단축시킨다.

개발자와 엔지니어 입장에서 가장 큰 변화는 패치 사이클의 압박이 심해진다는 점이다. 과거에는 CVE 공개 후 며칠~몇 주의 여유가 있었다면, 이제는 공개 직후 수 시간 내에 AI로 자동 생성된 익스플로잇이 유통될 수 있다. 특히 오픈소스 관리 도구, 어드민 패널, CI/CD 시스템처럼 인터넷에 노출된 운영 인프라는 우선순위 패치 대상으로 다뤄야 한다. 2FA 우회 취약점이 표적이 됐다는 점도 의미심장한데, 단일 인증 계층에만 의존하지 말고 IP 화이트리스트, 디바이스 핀닝, 행동 기반 이상 탐지(UEBA) 등 다층 방어를 병행할 필요가 있다.

실무에서 당장 검토할 액션은 세 가지다. 첫째, SBOM(소프트웨어 자재 명세서)을 정비해 사용 중인 오픈소스 관리 도구를 식별하고 자동화된 취약점 스캐닝(Dependabot, Trivy, Snyk 등)을 CI 파이프라인에 통합해야 한다. 둘째, 사내 코드에 LLM이 생성한 코드를 도입할 때는 환각 CVE·존재하지 않는 라이브러리 함수·잘못된 보안 가정 등을 검증하는 리뷰 절차를 의무화해야 한다. 셋째, 방어 측면에서도 AI를 적극 활용해 로그 패턴 이상 탐지, 익스플로잇 코드 분류, 위협 인텔리전스 자동 수집 등에 LLM을 도입하는 것이 현실적 대응책이다. 공격자가 AI로 무장한 시대에 방어자가 수작업에만 의존하면 비대칭은 더 벌어질 수밖에 없다.