200k의 유령: 롱 컨텍스트 LLM 세션에서의 지시문 이행 저하 현상

Claude Opus 4.6(1M 컨텍스트) 모델을 대상으로 한 필드 연구 결과, 컨텍스트 사용량이 200,000 토큰에 도달하면 지시사항을 무시하거나 내용을 건너뛰는 '지시문 이행 저하' 현상이 발생함이 확인됐다. 이 현상은 단순한 길이의 문제가 아니라 컨텍스트 길이와 작업의 단조로움이 상호작용하여 발생하는 것으로 나타났다. 연구진은 18번의 세션 테스트를 통해 200k 지점에서 모델이 '컨텍스트 불안'을 느끼며 임의로 요약하거나 섹션을 건너뛰는 패턴을 식별했다. 이를 해결하기 위해 소규모 배치 처리, 목표 재설정, 관찰 코멘트 추가 등 4가지 완화 전략을 도입하여 320k 토큰까지 안정적인 성능을 유지하는 데 성공했다.