메타 AI, 대화 데이터가 서버에 저장되지 않는 프라이빗 모드 도입

메타가 WhatsApp과 Meta AI 앱에 도입하는 "Incognito Chat"은 단순한 클라이언트 측 히스토리 삭제가 아니라, 서버 인프라 자체에서 데이터 접근을 차단하는 **컨피덴셜 컴퓨팅(Confidential Computing)** 기반 아키텍처일 가능성이 높습니다. 일반적으로 이런 "메타조차 접근할 수 없는" 환경은 AMD SEV-SNP, Intel TDX, NVIDIA H100의 Confidential Computing 모드 같은 TEE(Trusted Execution Environment) 기술을 활용해 메모리와 GPU 연산 결과를 암호화된 상태로 처리합니다. 사용자 디바이스는 원격 어테스테이션(Remote Attestation)을 통해 서버가 변조되지 않은 정해진 코드만 실행 중임을 검증한 후 세션 키를 교환하고, 세션 종료 시 메모리상의 컨텍스트와 KV 캐시가 폐기되는 방식입니다. 이는 애플의 Private Cloud Compute(PCC)와 매우 유사한 접근법으로, 운영자(메타)의 관리자 권한조차도 추론 중인 데이터를 들여다볼 수 없도록 하드웨어 수준에서 격리하는 것이 핵심입니다.

엔지니어 입장에서 이번 발표가 중요한 이유는, 그동안 "AI 제공자가 우리 프롬프트를 학습 데이터로 쓸 수 있다"는 우려 때문에 사내 코드·고객 PII·계약서 같은 민감 데이터를 LLM에 넣지 못했던 보안 정책을 재검토할 근거가 생긴다는 점입니다. 특히 사내에서 자체 LLM을 호스팅하거나 비싼 엔터프라이즈 계약(Azure OpenAI, AWS Bedrock의 PrivateLink 등)을 맺지 않으면 민감 정보를 처리할 수 없었던 소규모 조직에게는 대안이 될 수 있습니다. 다만 "메타가 첫 번째"라는 저커버그의 주장은 마케팅에 가깝습니다. 애플 PCC는 2024년부터 운영 중이고, Anthropic·Google·Cloudflare Workers AI 등도 컨피덴셜 컴퓨팅 기반 추론 옵션을 이미 제공하고 있어, 차별점은 "엔드유저 대상 채팅 제품에 기본 옵션으로 노출했다"는 정도로 봐야 합니다.

개발자가 실제로 액션을 취할 수 있는 포인트는 세 가지입니다. 첫째, 아직 Incognito Chat의 **기술 백서나 어테스테이션 검증 절차가 공개되지 않았다**는 점입니다. 애플 PCC는 보안 연구자가 검증할 수 있도록 이미지 빌드와 트랜스패런시 로그를 공개했는데, 메타가 같은 수준의 검증 가능성을 제공하지 않으면 "신뢰하라"는 마케팅 약속에 불과하므로 사내 보안 검토 시 반드시 이 부분을 따져봐야 합니다. 둘째, 이 모드에서는 개인화·메모리·과거 대화 참조 기능이 동작하지 않으므로 워크플로우 자동화에 메타 AI를 통합하려는 경우 일반 모드와 분리해 설계해야 합니다. 셋째, 향후 메타가 동일한 인프라를 **Llama API의 엔터프라이즈 옵션**으로 확장할 가능성이 큽니다. 사내 LLM 도입을 검토 중인 팀이라면 OpenAI/Anthropic의 ZDR(Zero Data Retention) 계약, Bedrock·Vertex의 컨피덴셜 추론, 그리고 Llama 기반 자체 호스팅 옵션을 동일한 위협 모델 기준(관리자 권한 탈취·내부자 위협·로그 유출) 위에 놓고 TCO와 검증 가능성을 비교해 두는 것이 좋습니다.