뉴욕 연방 판사, AI로 가짜 인용문과 화려한 문체를 남발한 변호사의 소송 기각

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

뉴욕 연방 법원의 캐서린 폴크 파일라 판사는 변호사 스티븐 펠드먼이 제출한 서면에 AI가 생성한 가짜 인용문과 지나치게 화려한 문체가 반복적으로 포함된 것을 확인하고 해당 사건을 종결 처리했다. 펠드먼 변호사는 AI를 인용문 검증용으로만 사용했다고 주장했으나, 판사는 서면의 문체와 반복되는 오류를 근거로 AI가 초안 작성 단계부터 개입했을 가능성이 높다고 판단했다. 이번 결정은 법조계에서 AI 사용에 따른 윤리적 책임과 사실 확인 의무를 소홀히 했을 때 발생할 수 있는 가장 강력한 제재 사례 중 하나로 기록됐다.

배경

미국 연방 민사소송규칙(Rule 11)에 대한 이해, LLM 할루시네이션(Hallucination) 개념

대상 독자

법률 전문가, AI 윤리 연구자, LLM 활용 서비스 개발자

의미 / 영향

AI가 법률 업무의 효율성을 높일 수 있지만, 검증 없는 사용은 변호사 자격 정지나 소송 패소와 같은 치명적인 결과를 초래할 수 있음을 보여주는 경고성 사례다. 이는 향후 법조계의 AI 사용 가이드라인 수립에 중요한 선례가 될 것이다.

섹션별 상세

뉴욕 연방 판사 캐서린 폴크 파일라는 변호사 스티븐 펠드먼이 제출한 서면에서 레이 브래드버리의 '화씨 451' 인용구와 성경 구절 등 법률 서면에 부적절한 화려한 문체와 가짜 인용문이 발견되자 소송 종료 제재를 내렸다.

펠드먼 변호사는 Paxton AI, vLex의 Vincent AI, Google의 NotebookLM 등을 사용했음을 인정했으나, 이는 인용문을 교차 검증하기 위한 용도였을 뿐 서면 자체는 본인이 직접 작성했다고 주장했다.

판사는 펠드먼의 주장을 신뢰하기 어렵다고 보았으며, 특히 가짜 인용문이 포함된 서면의 문체가 평소 그의 글쓰기 스타일과 확연히 다르다는 점을 지적하며 AI가 생성한 내용을 그대로 사용한 것으로 판단했다.

법원은 펠드먼 변호사가 동료 변호사의 경고와 법원의 시정 요구에도 불구하고 가짜 인용문을 수정하지 않고 방치한 점을 'Rule 11' 위반으로 규정하고, 원고 측에 승소 판결(Default Judgment)을 내리는 강력한 조치를 취했다.

펠드먼은 법률 데이터베이스의 높은 구독료와 도서관 이용 시간의 제약으로 인해 AI 도구에 의존하게 되었다고 해명했으나, 판사는 기술의 발전이 변호사의 기본적인 전문적 의무를 면제해주지 않는다고 강조했다.

실무 Takeaway

법률 서면 작성 시 AI를 사용할 경우 반드시 원본 판례를 직접 확인해야 하며, AI의 할루시네이션 현상으로 인한 가짜 인용문 발생 가능성을 항상 경계해야 한다.
미국 연방 민사소송규칙 제11조(Rule 11)에 따라 변호사는 자신이 제출하는 모든 서면의 사실 관계와 법적 근거를 검증할 책임이 있으며, AI 도구의 오류는 면책 사유가 되지 않는다.
법원은 AI가 생성한 특유의 화려하거나 부자연스러운 문체를 AI 사용의 징후로 판단할 수 있으므로, 전문적인 법률 서면의 톤앤매너를 유지하는 것이 중요하다.