AI 주간 이슈 #497: AI의 노동쟁의가 글로벌로 확산

이번 주 화제의 핵심은 'AI 랭킹·자동화 시스템'이 노동 현장에서 어떻게 작동하고, 또 어떻게 무력화될 수 있는가다. 아마존 직원들이 내부 AI 성과 랭킹 시스템을 의도적으로 '게임'해 무용지물로 만든 사례가 대표적이다. 이런 시스템은 보통 직원의 활동 로그, 코드 커밋, 티켓 처리량, 동료 평가 같은 행동 신호를 피처로 수집해 가중치 기반 점수 모델이나 ML 랭커로 순위를 매긴다. 문제는 이 모델들이 '관측 가능한 프록시 지표'에 의존한다는 점이다. 굿하트의 법칙(측정값이 목표가 되는 순간 좋은 측정값이기를 멈춘다)대로, 평가 대상이 된 사람들이 입력 신호를 인위적으로 조작하면 모델은 실제 성과와 무관한 노이즈를 학습하게 된다. 중국 법원이 'AI를 근거로 한 해고'를 금지하는 프레임워크를 집행하기 시작한 것도 같은 맥락으로, 알고리즘이 산출한 점수를 인사 결정의 정당화 근거로 삼는 것을 법적으로 차단하려는 시도다.

엔지니어 입장에서 이는 두 가지 층위로 다가온다. 첫째, 우리는 점점 더 이런 평가 시스템의 '대상'이 되고 있다. 커밋 수, PR 머지 속도, Jira 티켓 소화량 같은 지표가 생산성 대시보드와 AI 랭커의 입력으로 쓰이면서, 측정하기 쉬운 활동이 측정하기 어려운 실제 가치(설계 품질, 리뷰 기여, 장애 예방)를 가리는 왜곡이 발생한다. 둘째, 더 중요하게는 우리가 이런 시스템을 '만드는' 쪽이라는 점이다. 위키미디어 정리해고에 맞선 편집자 파업, TUC가 후원한 영국 싱크탱크의 '노동자가 AI 도입에 실질적 발언권을 가져야 한다'는 요구는 모두, AI 자동화 도구를 설계·배포하는 개발자에게 직접적인 거버넌스 책임이 넘어오고 있음을 보여준다. 어떤 피처를 점수에 반영할지, 모델 출력이 사람의 고용·평가에 어떤 자동 결정으로 이어지는지가 곧 윤리적·법적 리스크가 된다.

당장 챙겨야 할 행동은 명확하다. 사람에 영향을 주는 평가·랭킹 기능을 구현한다면, 모델 출력을 자동 의사결정에 직결시키지 말고 반드시 'human-in-the-loop' 검토 단계를 설계에 박아 넣어야 한다. 입력 피처가 조작·게임 가능한지(adversarial robustness), 점수 산출 근거를 사후에 설명할 수 있는지(EU AI Act의 고위험 시스템 요구사항, 중국의 신규 규제 모두 설명가능성과 인적 감독을 요구한다)를 사전 점검 항목으로 삼아라. 또한 자신이 작성하는 코드가 누군가의 해고·평가 근거가 될 수 있다면, 결정 로그와 이의제기 경로를 남기는 것이 단순한 모범 사례를 넘어 컴플라이언스 요건이 되어가고 있다. 결국 이번 주의 교훈은 'AI 생산성 지표는 신뢰도 검증 없이는 통계적 환상에 불과하다'는 것이며, 그 검증을 설계 단계에서 책임지는 주체가 바로 우리 엔지니어라는 점이다.