1930년대 빈티지 언어 모델 talkie 출시: 1931년 이전 데이터로만 학습된 13B 모델

섹션별 상세

talkie는 1931년 이전의 영어 텍스트 260B 토큰을 사용하여 13B 파라미터 규모로 사전 학습됐다. 미국 저작권법상 1931년 1월 1일 이전 자료는 저작권이 만료되었으므로 법적 분쟁에서 자유로운 데이터셋 구성을 목표로 했다. 이를 통해 역사적 맥락에 충실한 언어 생성 능력을 확보했다.

채팅 모델인 talkie-1930-13b-it는 역사적 문헌에서 추출한 지시-응답 쌍과 현대 LLM을 활용한 합성 데이터로 파인튜닝됐다. Claude Sonnet 4.6을 판정단으로 사용하는 DPO 기법과 Claude Opus 4.6과의 합성 대화 데이터를 통한 SFT 과정이 포함됐다. 이 과정에서 현대적 지식이 모델에 유입되는 '시대착오적 오염'을 방지하는 것이 주요 과제였다.

연구진은 이 모델을 활용해 과거 지식 기반의 추론 능력을 측정하는 흥미로운 실험들을 제안했다. 1911년까지의 데이터로 학습된 모델이 1915년에 발표된 일반 상대성 이론을 스스로 발견할 수 있는지와 같은 과학적 창의성 검증이 포함된다. 또한 과거 텍스트만으로 이후 발생할 역사적 사건에 대한 '놀라움'의 정도를 계산해 미래 예측 능력을 평가한다.

현대 LLM의 도움 없이 과거 모델 스스로가 판정단이 되는 완전한 시대 적합적 파이프라인 구축을 지향한다. 현재는 지시 이행 능력을 위해 Claude와 같은 현대 모델의 피드백이 필요하지만 향후 규모를 키워 자체적인 피드백 루프를 완성하고자 한다. 이는 외부 지식 오염을 원천 차단하고 순수한 역사적 페르소나를 유지하기 위한 전략이다.

용어 해설

지식 컷오프(Knowledge Cutoff): — AI 모델이 학습에 사용한 데이터의 마지막 시점을 의미한다. 이 시점 이후에 발생한 사건이나 정보에 대해 모델은 기본적으로 알지 못하며, talkie 모델의 경우 1931년 이전 데이터만 사용하여 그 이후의 현대 지식을 배제하도록 설계됐다.
합성 데이터(Synthetic Data): — 실제 세계에서 수집된 데이터가 아니라 AI 모델이 생성해낸 데이터를 의미한다. talkie의 채팅 모델 학습을 위해 현대의 고성능 모델인 Claude를 사용하여 역사적 텍스트 기반의 대화 쌍을 만들어내는 방식으로 활용됐다.
직접 선호도 최적화(Direct Preference Optimization): — 인간이나 다른 AI의 피드백을 통해 모델의 답변 품질을 개선하는 강화학습 기법이다. 복잡한 보상 모델 없이도 모델이 더 선호되는 답변을 생성하도록 직접 최적화하며, 본문에서는 Claude 4.6을 판정단으로 사용했다.
기반 모델(Base Model): — 특정 작업에 특화되기 전 대규모 데이터셋으로 사전 학습된 초기 상태의 모델이다. talkie-1930-13b-base는 1931년 이전의 영어 텍스트 260B 토큰으로 학습되어 당시의 언어 스타일과 지식을 보유하고 있다.

기술

Claude Sonnet 4.6
Claude Opus 4.6
Apache 2.0
Python

활용 사례

역사적 인물 페르소나 챗봇
과거 지식 기반의 과학적 발견 재현 실험

언급된 리소스

문서talkie-1930-13b-base (Hugging Face)

문서talkie-1930-13b-it (Hugging Face)

Demotalkie Demo