GPT-5.5가 법률 벤치마크에서 허위 조문을 창작해 실격 처리된 사례 보고

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

ROHAS 법률 벤치마크의 10문항 검사를 통해 OpenAI GPT-5.5가 존재하지 않는 법규를 창작해 O2 문항에서 실패하며 실격 처리된 사례가 보고되었다. 벤치마크 문항은 중첩된 예외를 따라 책임 한도를 계산하는 능력, 판례·조문 인용의 정확성, 불확실성 인식과 추가 사실 요구 능력, 국제적 맥락 적용 능력, 지정된 형식 준수 여부를 점검하도록 설계되어 모델의 법률적 신뢰성 결함을 드러냈다. 결과적으로 법률 분야 자동화에는 조문·판례의 출처 교차검증과 관할권 확인, 불확실성 시 명시적 거부 또는 추가 질의 루틴이 필수적임이 확인되었다.

실용적 조언

법률 텍스트 자동화에 도입할 때 모델 답변을 외부 법률 데이터베이스와 실시간 교차검증하도록 워크플로를 설계해야 한다. 모델이 판례나 조문을 인용할 경우 인용 출처의 URL·조문번호·판례명 등 검증 가능한 메타데이터를 함께 생성하도록 구성해야 한다. 불확실성 감지 시 자동으로 추가 사실을 요구하거나 '확인 필요' 상태를 반환하는 거부 경로를 시스템 설계에 포함해야 리스크를 줄일 수 있다.

섹션별 상세

01

이 게시물은 대형언어모델의 법률적 추론 능력과 평가 결과를 직접적으로 다루고 있어 AI/ML 관련성이 높다. 원문은 GPT-5.5가 법률 벤치마크에서 존재하지 않는 법규를 창작해 실패한 사례를 보고했고 벤치마크의 구성과 실패 유형을 구체적으로 포함하고 있다. 벤치마크 설계와 실패 사례가 명확히 제시되어 있어 기술적 통찰을 제공하는 내용으로 판단된다.

02

벤치마크는 10개의 짧은 질문을 입력으로 받아 모델이 계약 조항과 사건 사실을 해석해 계산·순위화·근거 인용·관할권 인식·형식 준수 등의 출력을 생성하도록 설계되었다. 문항들은 중첩된 예외를 따라 금액을 산정하는 능력과 무제한 indemnity 조항을 우선 판단하는 능력, 판례·조문을 정확히 인용하고 존재하지 않는 법규를 발명하지 않는 태도를 평가했다. 또한 관할권 누락 시 추가 사실을 요구할 수 있는지와 국제적 맥락에서의 계약 조항 적용 가능성, 그리고 지정된 출력 형식을 충실히 따르는지를 함께 점검했다.

03

벤치마크 결과 시각화에는 GPT-5.5가 전체적으로 7.5점을 받은 것으로 표시되었으나 O2(존재하지 않는 법규를 발명하지 않고 거부하는지) 문항 실패로 실격 처리되었다. 이 실패는 법률 분야 응용에서 모델의 허위 사실 생성(hallucination)이 치명적 결함이 되며, 조문·판례 인용 자동화에는 외부 법률 데이터베이스와의 교차검증 및 관할권 확인 절차가 필수임이 드러났다. 실무적으로는 모델이 조문이나 판례를 언급할 때 출처 검증 루틴을 포함하고, 불확실한 경우 명시적 추가 확인 요구 또는 거부 응답을 생성하도록 설계해야 위험을 줄일 수 있다.