Claude Code의 성능 저하와 Anthropic의 신원 인증 도입에 대한 비판

작성자의 의견에 동조하며 Anthropic의 정책 변화에 실망을 표하는 반응이 주를 이루고 있으며, 많은 사용자가 로컬 모델 구동 환경 구축에 관심을 보이고 있습니다.

• Claude Code의 성능에 불만이 있다면 Qwen 2.5 Coder 32B와 같은 최신 오픈소스 모델을 로컬에서 테스트해볼 것
• 48GB 이상의 VRAM을 확보하여 RunPod 등의 VPS에서 독자적인 모델 서버를 운영하면 신원 인증 없이 저렴하게 이용 가능
• 프롬프트 캐시 효율을 높이기 위해 5분 이내에 연속적인 작업을 수행하도록 워크플로를 최적화할 것

Adaptive Thinking

— 모델이 문제의 복잡도에 따라 추론(Thinking)의 깊이를 스스로 조절하는 메커니즘이다. Anthropic은 이를 통해 효율성을 높인다고 주장하나, 실무적으로는 추론 토큰 수를 줄여 모델의 성능을 저하시키는 '은밀한 성능 하향' 수단으로 비판받기도 한다.

Prompt Cache TTL

— 입력된 프롬프트 데이터를 재사용하기 위해 서버에 보관하는 유효 시간(Time To Live)이다. 이 시간이 짧아질수록 동일한 컨텍스트를 반복 입력할 때 캐시 적중률이 떨어져 API 비용이 증가하고 응답 속도가 느려지는 결과를 초래한다.

Early Stopping

— 모델이 충분한 추론 과정을 거치지 않고 답변을 중간에 끊어버리는 현상이다. 복잡한 코딩 작업에서 전체 로직을 완성하지 못하고 출력을 멈추는 등의 오류로 나타나며, 주로 모델의 연산 자원 제한이나 정책적 개입으로 인해 발생한다.