주요 AI 모델들의 베스트셀러 무단 복제: '암기' 현상이 저작권 방어 논리를 뒤흔들다

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

대형 언어 모델(LLM)이 학습 데이터에 포함된 저작물을 토씨 하나 틀리지 않고 복제해내는 '암기(Memorization)' 현상이 심각한 수준임이 밝혀졌다. 스탠퍼드와 예일 대학의 공동 연구에 따르면, Gemini 2.5와 Grok 3 등 최신 모델들이 해리포터와 같은 베스트셀러 소설의 70% 이상을 정확하게 재현해냈다. 이는 모델이 데이터를 저장하지 않고 패턴만 학습한다는 AI 기업들의 핵심 법적 방어 논리를 정면으로 반박하는 결과다. 이러한 발견은 현재 진행 중인 수많은 저작권 소송에서 AI 기업들에게 막대한 법적 책임을 지울 수 있는 변곡점이 될 것으로 전망된다.

배경

LLM의 기본 학습 원리에 대한 이해, 저작권법의 공정 이용(Fair Use) 개념에 대한 기초 지식

대상 독자

AI 정책 입안자, 저작권 전문 변호사, LLM 연구자 및 개발자

의미 / 영향

AI 모델의 데이터 학습 방식에 대한 법적 정의가 '학습'에서 '복제 및 저장'으로 재정의될 가능성이 높아졌다. 이는 AI 기업들의 데이터 수집 비용을 급증시키고, 모델 배포 전 데이터 추출 방지를 위한 기술적 요구사항을 강화하는 계기가 될 것이다.

섹션별 상세

스탠퍼드와 예일 대학교 연구진은 OpenAI, Google, Anthropic, xAI의 모델들을 대상으로 전략적 프롬프트를 사용하여 '왕좌의 게임', '헝거 게임', '호빗' 등 13권의 소설 내용을 추출하는 데 성공했다. 특히 Google의 Gemini 2.5는 '해리포터와 마법사의 돌' 내용의 76.8%를, xAI의 Grok 3는 70.3%를 높은 정확도로 재현했다.

Anthropic의 Claude 3.7 Sonnet의 경우, 안전 가드레일을 무시하도록 만드는 '탈옥(Jailbreaking)' 기법을 통해 소설 한 권의 거의 전체 내용을 원문 그대로 추출할 수 있음이 확인됐다. 이는 가드레일이 있는 폐쇄형 모델은 대규모 암기 현상에서 안전할 것이라는 기존의 예측을 뒤집는 결과다.

실무 Takeaway

LLM의 '암기' 현상은 단순한 패턴 학습을 넘어 저작물의 상당 부분을 내부적으로 유지하고 있음을 보여주며, 이는 법적으로 '복제본 저장'으로 해석될 위험이 크다.
가드레일이 적용된 폐쇄형 모델조차 탈옥 기법을 통해 학습 데이터를 그대로 노출할 수 있으므로, 데이터 유출로 인한 개인정보 및 기밀 보호 이슈가 의료나 교육 분야에서도 발생할 수 있다.
AI 기업들은 모델이 데이터를 저장하지 않는다는 주장을 수정해야 할 상황에 직면했으며, 향후 학습 데이터 구성 및 저작권료 지불 방식에 대한 근본적인 변화가 요구될 것이다.