핵심 요약
뉴욕 연방법원의 캐서린 폴크 파일라 판사가 AI를 오용하여 허위 인용문을 작성한 변호사의 소송을 강제로 종료하는 강력한 제재를 내렸다. 스티븐 펠드먼 변호사는 법정 제출 문서에 존재하지 않는 판례를 인용하고, 사건과 무관한 문학적 표현을 남발하는 등 AI 할루시네이션 문제를 반복적으로 노출했다. 법원은 수차례의 수정 요청에도 불구하고 허위 문서 제출이 계속되자 사법 체계의 신뢰를 보호하기 위해 소송 기각이라는 이례적인 결정을 내렸다.
대상 독자
법조인 및 AI 윤리 정책 담당자
의미 / 영향
이번 판결은 전문직 영역에서 AI 할루시네이션이 초래할 수 있는 실질적인 법적 위험을 보여주는 경고 사례이다. AI 도구의 편리함보다 전문가로서의 검증 책임이 우선시되어야 함을 명확히 했으며, 향후 법조계의 AI 사용 가이드라인 강화에 영향을 미칠 것으로 보인다.
섹션별 상세
뉴욕 연방법원의 캐서린 폴크 파일라 판사는 변호사 스티븐 펠드먼이 AI를 이용해 작성한 법정 문서에서 반복적인 오류와 허위 사실이 발견됨에 따라 해당 사건을 기각했다. 펠드먼 변호사는 법원의 수정 요청을 받은 후에도 여전히 가짜 인용문이 포함된 문서를 제출하며 사법 절차를 방해했다. 판사는 이러한 행위가 단순한 실수를 넘어 법원을 기만하는 행위라고 판단하여 강력한 제재가 필요함을 명시했다. 결국 법원은 해당 변호사의 불성실한 태도와 반복되는 허위 정보 제출을 근거로 소송 종료를 명령했다.
제출된 문서 중 일부는 평소 변호사의 문체와 확연히 다른 화려하고 수식어가 많은 문체를 사용했으며, 레이 브래드버리의 소설 '화씨 451'이나 고대 도서관에 대한 뜬금없는 언급이 포함되어 AI 생성물임이 명백히 드러났다. 판사는 이러한 문체적 변화와 내용의 부적절함이 AI 오용의 증거라고 지적했다. 또한 문법적 오류와 만연체 문장이 섞여 있는 기존 문서들과 달리, 특정 부분에서만 나타나는 이질적인 문학적 표현들이 AI 할루시네이션의 전형적인 사례로 간주됐다.
실무 Takeaway
- 법정 문서 작성 시 AI를 활용할 경우 반드시 인용문의 실존 여부와 내용의 정확성을 직접 검증해야 한다.
- AI가 생성한 특유의 화려한 문체나 맥락에 맞지 않는 비유는 법적 신뢰도를 떨어뜨리는 주요 요인이 된다.
- 법원의 경고와 수정 요청을 무시하고 AI 생성 오류를 방치할 경우 소송 기각과 같은 치명적인 법적 제재를 받을 수 있다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료