청소년 해커에서 AI 피싱 대응 연구자까지, 이 설립자는 2800만 달러를 모아 AI 피싱에 맞선 싸움을 시작했다

Ocean은 LLM 기반 에이전틱(agentic) AI를 활용해 수신 이메일의 맥락 전체를 분석하는 이메일 보안 플랫폼이다. 기존의 시그니처·블랙리스트·정규식 기반 스팸 필터나 SPF/DKIM/DMARC 같은 인증 프로토콜은 발신 도메인의 진위 여부는 검증하지만, 정상적으로 인증된 계정에서 발송되는 사회공학적 공격(BEC, CEO 사칭, 공급망 침해 메일)은 잡아내지 못한다. Ocean의 접근 방식은 메일의 헤더·본문·첨부·링크·발신 패턴을 LLM 에이전트가 다단계로 추론하여 "이 메일이 평소 이 발신자가 보낼 만한 내용인가", "조직 내 일반적인 워크플로와 맞는 요청인가"를 판단하는 컨텍스트 기반 탐지다. 특히 최근 공격자들이 ChatGPT·Claude 같은 LLM으로 문법 오류 없는 정교한 피싱 메일을 대량 생성하면서, 방어 측도 LLM으로 맞불을 놓는 구조가 빠르게 표준이 되고 있다.

엔지니어 입장에서 이는 두 가지 함의를 갖는다. 첫째, 사내에서 운영하는 알림 시스템·CI/CD 봇·외부 SaaS 연동 메일이 Ocean 같은 차세대 보안 게이트에서 "비정상 패턴"으로 오탐될 가능성이 커진다. 예전엔 SPF/DKIM만 통과하면 됐지만, 이제는 발신 빈도·문체·요청 패턴까지 학습 대상이 되므로, 운영 메일 템플릿이 갑자기 바뀌거나 새 도메인에서 발송 시 정상 메일이 차단될 수 있다. 둘째, 개발자 본인이 표적이 되는 경우가 늘었다. GitHub 알림 위장, npm/PyPI 메인테이너 계정 탈취 시도, Slack/Jira 초대장 사칭 등 개발자 워크플로를 모방한 피싱이 LLM으로 정교해지면서, 공급망 공격의 진입점으로 개발자 메일함이 직접 노려진다.

실무에서 취해야 할 액션은 명확하다. 우선 외부 발송 메일(트랜잭션 메일, 회원가입 인증, 알림 등)이 사용하는 도메인·템플릿·발송 주기를 문서화하고, 발송 인프라 변경 시 보안팀과 사전 공유해 false positive를 줄여야 한다. 또한 SPF·DKIM·DMARC를 `p=reject`까지 강화하고 BIMI 도입을 검토해 정당한 발신자임을 명시적으로 입증하는 것이 좋다. 개인 차원에서는 npm/PyPI/GitHub 계정에 하드웨어 키 기반 MFA를 적용하고, 메일 내 링크보다 북마크나 CLI로 직접 접근하는 습관을 들여야 한다. 더 근본적으로는 "에이전트 vs 에이전트" 시대가 본격화되고 있다는 점 — 공격자도 방어자도 자율 LLM 에이전트를 운영하는 환경에서, 단순 키워드·룰 기반 보안 코드는 빠르게 무력화되므로 자사 서비스의 어뷰징 탐지·이상 행위 분석 로직에도 LLM 기반 컨텍스트 추론을 점진적으로 도입할 시점이다.