Anthropic의 100만 컨텍스트 윈도우 정식 출시와 AI 에이전트 기술 동향

섹션별 상세

Anthropic이 Claude Opus 4.6 및 Sonnet 4.6 모델에서 100만 컨텍스트 윈도우를 정식 출시했으며, MRCR v2 벤치마크에서 78.3%의 정확도를 기록하며 업계 최고 수준의 긴 문맥 유지 능력을 입증했다.

Claude Opus 4.6과 Sonnet 4.6의 100만 컨텍스트 구간에서의 MRCR v2 벤치마크 결과 그래프다. — Chart입력 토큰 수가 128K에서 1M으로 증가함에 따라 모델의 정보 인출 정확도 변화를 보여준다. Claude Opus 4.6이 100만 토큰에서 78.3%를 기록하며 GPT-5.4나 Gemini 3.1 Pro보다 우수한 성능을 유지하고 있음을 시각적으로 증명한다.

LLM의 컨텍스트 윈도우 확장이 HBM 및 DRAM의 물리적 공급 부족으로 인해 지난 2년간 100만 수준에서 정체되어 있으며, 이는 소프트웨어 기술력이 아닌 하드웨어 생산 능력의 한계에 기인한다.

에이전트 인프라 분야에서는 MCP(Model Context Protocol)의 사용성 논쟁이 이어지는 가운데, 에이전트의 실행 궤적에서 최적의 전략을 추출하여 성능을 개선하는 영구 메모리(Persistent Memory) 기술이 대안으로 부상하고 있다.

추론 최적화를 위해 Sparse Attention의 인덱스 정보를 레이어 간에 재사용하는 IndexCache 기법이 제안되었으며, 이는 GLM-5(744B) 모델에서 품질 저하 없이 약 1.2배의 엔드투엔드 속도 향상을 달성했다.

MIT 연구진은 모델 가중치에 가우시안 노이즈를 추가하고 앙상블하는 RandOpt 기법이 PPO나 GRPO와 같은 복잡한 강화학습 과정 없이도 추론 및 코딩 작업에서 대등한 성능을 낼 수 있음을 확인했다.

생물학 분야에서는 OpenFold3 프리뷰 2가 공개되었으며, 이는 AlphaFold3와 대등한 성능을 내면서도 학습 데이터셋과 설정을 모두 공개하여 완전한 재현이 가능한 유일한 모델로 평가받는다.

용어 해설

컨텍스트 윈도우(Context Window): — LLM이 한 번에 처리하고 기억할 수 있는 텍스트 데이터의 최대 범위다. 윈도우가 클수록 긴 문서나 대화 기록을 한꺼번에 분석할 수 있지만, 메모리 자원 소모가 급격히 늘어나는 특성이 있다. 현재 100만 토큰 수준에서 물리적 한계에 부딪히고 있다.
다회차 컨텍스트 인출(MRCR): — Multi-Round Context Retrieval의 약자로, 긴 문맥 속에 숨겨진 특정 정보를 모델이 얼마나 정확하게 찾아내는지 측정하는 벤치마크다. 컨텍스트가 길어질수록 모델이 정보를 놓치는 '컨텍스트 부패' 현상을 평가하는 핵심 지표로 활용된다.
희소 어텐션(Sparse Attention): — 모든 토큰 간의 관계를 계산하는 대신 중요한 연관성을 가진 토큰들만 선택적으로 계산하는 기법이다. 연산량과 메모리 사용량을 획기적으로 줄여 대규모 모델이나 긴 문맥을 처리할 때 추론 속도를 높이는 데 필수적인 역할을 한다.
고대역폭 메모리(HBM): — 여러 개의 DRAM을 수직으로 쌓아 데이터 전송 속도를 극대화한 고성능 메모리다. AI 가속기의 핵심 부품으로, 긴 컨텍스트를 처리할 때 발생하는 막대한 데이터를 실시간으로 주고받기 위해 반드시 필요하지만 현재 전 세계적인 공급 부족 상태다.
사후 학습(Post-training): — 사전 학습된 모델에 특정 작업 수행 능력을 높이거나 인간의 가치관에 맞추기 위해 추가로 진행하는 학습 단계다. RLHF, DPO 등이 대표적이며, 최근에는 강화학습 없이 가우시안 노이즈를 활용하는 등 효율적인 사후 학습 기법들이 연구되고 있다.

기술

Claude Opus 4.6
Claude Sonnet 4.6
MCP
IndexCache
RandOpt
OpenFold3

활용 사례

대규모 문서 분석 RAG
영구 메모리 기반 AI 에이전트
단백질 구조 예측 연구
다국어 음성 인식 시스템

언급된 리소스

GitHubOpen Deep Research v2