트럼프, 마스크와 지구크버그 등의 갑작스러운 요청으로 AI 안전 지침 철회

트럼프 대통령이 막판에 폐기한 AI 안전 행정명령은 프런티어 모델(frontier model)에 대한 자발적 검토 체계를 골자로 했습니다. 핵심은 GPT-4, Claude, Gemini 같은 대규모 파운데이션 모델을 출시하기 전 90일의 사전 검토 창구를 두는 구조였는데, 이는 바이든 행정부의 EO 14110(2023년)이 요구했던 NIST 기반 레드티밍·안전성 평가 프레임워크의 축소판 성격이었습니다. 기술적으로 이러한 사전 검토는 보통 위험한 능력 평가(dangerous capability evaluation), 사이버·생물학·CBRN 영역에서의 오용 가능성 측정, 그리고 모델 가중치(weights) 유출 시 발생할 수 있는 보안 리스크 분석을 포함합니다. 머스크·저커버그·삭스의 막판 통화로 명령이 폐기되면서, 미국에서는 사실상 연방 차원의 강제적 출시 전 안전 검토 의무가 부재한 상태가 유지됩니다.

개발자와 엔지니어 입장에서 이번 결정은 양면적인 영향을 미칩니다. 긍정적인 면은 OpenAI, Anthropic, Meta, xAI 등이 새 모델 API와 가중치를 출시할 때 90일 지연 없이 시장에 투입할 수 있어, 신모델 기반 기능 통합 사이클이 빨라진다는 점입니다. 특히 오픈웨이트 진영(Llama, Mistral, Qwen 등)을 활용하는 한국 개발팀에게는 미국발 규제로 인한 가중치 배포 제한 리스크가 줄어든 셈입니다. 반면 부정적인 면은 안전성·신뢰성에 대한 책임이 전적으로 모델 제공자의 자율 거버넌스와 다운스트림 통합자(즉 개발자 본인)에게 전가된다는 점입니다. 프롬프트 인젝션, 데이터 유출, 자동 에이전트의 권한 오남용 같은 문제는 이제 플랫폼 차원의 사전 안전망 없이 애플리케이션 레이어에서 직접 막아야 합니다.

한국 개발자가 실무에서 취해야 할 액션은 명확합니다. 첫째, 미국 연방 규제 공백이 곧 글로벌 표준 부재를 의미하지는 않습니다. EU AI Act는 2026년 8월부터 GPAI(범용 AI) 의무가 전면 발효되며, 한국의 AI 기본법(2026년 1월 시행)도 고영향 AI에 대한 영향평가·안전성 요구를 부과합니다. 따라서 미국 모델 제공자가 미국 내에서 풀려나더라도, 한국 서비스 배포 시점에는 자체적인 모델 카드 검토, 한국어 안전성 평가(KMMLU, HAERAE 등 한국 특화 벤치마크), 그리고 PII·금융·의료 영역의 추가 가드레일이 필수입니다. 둘째, 모델 제공자의 안전성 보고서(System Card, Responsible Scaling Policy 등)를 의존성 관리 차원에서 추적하고, CI 파이프라인에 LLM 출력 검증·레드티밍 자동화 단계를 포함시키는 것이 권장됩니다. 결국 "플랫폼이 안전을 보장하지 않는다"는 전제 하에 애플리케이션 레벨의 방어 깊이(defense in depth)를 설계하는 것이 이번 행정명령 폐기 이후 가장 현실적인 대응입니다.