OpenAI, 아동 성착취 증가에 대응하는 새로운 안전 청사진 발표

OpenAI가 AI 기술 발전에 따른 아동 성착취(Child Sexual Abuse Material, CSAM) 문제의 심각성을 인식하고, 이에 대응하기 위한 종합적인 '아동 안전 청사진'을 발표했다. 생성형 AI의 이미지·텍스트 생성 능력이 고도화되면서, 이를 악용한 아동 착취 콘텐츠 제작이 급증하고 있으며, 기존의 해시 기반 탐지 시스템(PhotoDNA 등)만으로는 AI가 생성한 신규 콘텐츠를 효과적으로 차단하기 어려운 상황이다.

이 청사진은 크게 모델 학습 단계에서의 데이터 필터링, 추론 시 안전 가드레일 적용, 그리고 출력물에 대한 사후 모니터링 등 다층적 방어 전략을 제시한다. 특히 모델이 아동 관련 유해 콘텐츠를 생성하지 못하도록 학습 데이터에서 관련 자료를 사전 제거하고, 프롬프트 수준에서 악의적 요청을 탐지·차단하는 기술적 조치를 강조하고 있다.

OpenAI는 이 청사진을 자사만의 기준이 아닌 업계 공통 표준으로 확산시키겠다는 의지를 밝혔다. AI 서비스를 개발하는 기업과 엔지니어들에게는 모델 배포 전 안전성 평가(red teaming), 콘텐츠 분류기(classifier) 통합, 그리고 신고 체계 구축 등이 실질적으로 요구되는 사항이며, 각국 규제 당국의 AI 안전 법안과도 밀접하게 연관되는 만큼 컴플라이언스 관점에서도 주의 깊게 살펴볼 필요가 있다.