AI 시스템의 책임을 지는 '인간 방패' 직업의 등장

섹션별 상세

AI 시스템의 결과물에 대해 책임을 지는 '인간 방패' 성격의 고용이 증가할 것으로 예상된다. 기업은 시스템의 오작동 시 비난이나 법적 처벌을 대신 받을 수 있는 인간 관리자를 배치하여 조직적 리스크를 회피하려 한다.

책임 소재는 내부 검토 시스템이나 외부 법적 처벌 등 다양한 형태로 구체화된다. Meta의 콘텐츠 중재 검토자나 LLM의 거짓 정보를 제출해 징계를 받는 변호사의 사례가 대표적인 예시이다.

데이터 보호 책임자(DPO)와 같이 공식화된 책임 직무가 AI 분야에서도 강화될 가능성이 높다. 이는 시스템의 행동에 대해 법적·행정적 책임을 지는 특정 개인을 지정함으로써 기업의 면책권을 확보하는 수단이 된다.

기업은 시스템 오작동 시 책임을 전가하기 위해 제3자 하청업체를 활용하기도 한다. 문제가 발생했을 때 '꼬리 자르기' 식으로 희생시킬 수 있는 외부 파트너를 두어 본사의 평판과 법적 책임을 보호하는 구조이다.

고기 방패 (인간 방패)(Meat Shield): — AI 시스템의 오류나 오작동으로 인해 발생하는 법적, 윤리적 책임을 대신 짊어지기 위해 고용된 인간을 비유적으로 이르는 용어이다. 시스템의 자동화된 결정을 최종 승인함으로써 문제가 생겼을 때 회사가 아닌 개인이 책임을 지게 하는 구조적 장치로 활용된다.
AI 윤리(AI Ethics): — 인공지능 기술의 개발 및 활용 과정에서 발생할 수 있는 도덕적 문제와 책임 소재를 다루는 분야이다. 알고리즘의 편향성, 투명성 부족, 그리고 본문에서 언급된 책임 전가 문제 등을 해결하기 위한 가이드라인을 제시한다.
자동 콘텐츠 중재(Automated Moderation): — AI 모델을 사용하여 유해 콘텐츠를 자동으로 식별하고 삭제하는 시스템이다. 판단 오류가 발생할 가능성이 높기 때문에 인간 검토자가 최종 결정을 내리는 구조를 취하며, 이 과정에서 검토자의 책임 범위가 논쟁의 대상이 된다.