Anthropic의 폐쇄적인 생태계에 반대하며 새로운 오픈소스 CLI 도구를 개발하는 이유

실용적 조언

긴 프로젝트 작업 시 Claude Code의 20메시지 제한 및 컨텍스트 저하를 고려하여 세션을 관리할 것
특정 모델에 종속되지 않는 CLI 도구를 활용하여 제공업체 리스크에 대비할 것

섹션별 상세

Claude Code의 세션 지속성 및 컨텍스트 관리 실패 메커니즘을 지적했다. 대화가 20회 이상 진행되면 모델이 이전 맥락을 소실하며 토큰 소모가 비정상적으로 가속화되는 현상이 반복됐다. 이는 사용자가 내부 오케스트레이션에 개입할 수 없는 폐쇄적 구조 때문이며, 결과적으로 작업의 일관성이 무너진다.

Anthropic API의 가시성 부족과 캐싱 시스템의 비효율성을 비판했다. 특정 시점에서 토큰 소모가 비정상적으로 가속화되지만 사용자는 그 원인을 파악하거나 제어할 수 있는 수단이 전혀 없다. 작성자는 이를 해결하기 위해 직접 컨텍스트를 관리하는 로직을 시도했으나 API 자체의 제약으로 인해 근본적인 해결이 불가능했다.

Anthropic의 벤치마크 성능과 실제 사용자 경험 사이의 괴리를 지적했다. 공개된 높은 성능 수치는 일반 사용자가 접근할 수 없는 특수한 내부 도구와 환경에서 측정된 것이라는 의구심이 크다. 실제 개발 환경에서는 동일한 입력에도 다른 결과가 나오며, 이는 모델 자체보다 오케스트레이션 층의 격차에서 기인한다.

새로운 오픈소스 CLI의 아키텍처 방향과 Anthropic 생태계와의 단절을 확정했다. 영구 메모리(Persistent memory)와 모델 불가지론(Model-agnostic) 설계를 통해 특정 업체에 종속되지 않고 컨텍스트를 정밀하게 제어하는 방식을 채택했다. 로컬 오픈소스 스택 테스트 결과, 기존 API보다 더 일관되고 효율적인 성능을 확보했다.

용어 해설

컨텍스트 윈도우(Context Window): — 모델이 한 번에 처리할 수 있는 텍스트 데이터의 총량을 의미한다. 대화가 길어져 이 범위를 초과하거나 관리가 부실해지면 모델이 이전 맥락을 잊어버리는 현상이 발생하여 응답의 일관성이 떨어진다. 효율적인 컨텍스트 관리는 복잡한 코딩 작업에서 정확도를 유지하는 핵심 요소이다.
토큰 사용량(Token Usage): — LLM API 비용 산정 및 성능의 기본 단위이다. 텍스트를 모델이 이해할 수 있는 숫자로 변환한 것이며, 불필요한 토큰 소모는 비용 증가뿐만 아니라 모델의 처리 속도와 집중력 저하를 야기한다. 특히 반복적인 시스템 프롬프트나 방대한 컨텍스트는 토큰 사용량을 급격히 늘리는 원인이 된다.
블랙박스(Black Box): — 시스템의 내부 작동 원리나 처리 과정을 외부에서 알 수 없는 상태를 뜻한다. AI 모델의 경우 특정 결과가 도출된 논리적 근거를 파악하기 어렵거나, API 운영사가 내부적인 최적화 방식을 공개하지 않을 때 사용된다. 이는 개발자가 시스템의 동작을 예측하고 안정적인 서비스를 구축하는 데 큰 장애물이 된다.
모델 불가지론(Model Agnostic): — 특정 AI 모델이나 서비스 제공업체의 기술적 사양에 종속되지 않는 설계를 의미한다. 다양한 LLM을 유연하게 교체하여 사용할 수 있도록 표준화된 인터페이스를 제공하며, 이를 통해 특정 기업의 정책 변화나 가격 인상, 성능 저하 등의 리스크에 능동적으로 대응할 수 있는 환경을 구축한다.

언급된 도구

Claude Code비추천

Anthropic의 코딩 보조 도구

OpenAI Codex CLI중립

OpenAI의 코딩 도구

Sonnet중립

Anthropic의 LLM 모델