모델 회귀로 오인된 문제의 실원인은 컨텍스트 블로트였음

작성자는 최근 모델 업데이트 후 에이전트가 자주 잘못된 도구를 호출하는 현상을 경험하고 원인을 추적한 결과 컨텍스트 블로트, 즉 매 턴 모든 도구 정의를 포함해 컨텍스트 예산을 낭비하는 설계가 문제였음을 확인했다. 비교 실험은 전체 도구 카탈로그를 매 턴 주입하는 방식과 쿼리별로 도구를 랭킹해 관련 도구만 전달하는 방식을 사용했으며 그 결과 입력 토큰이 모델별로 70~85% 감소했고 대부분의 경우 정확도는 유지되었으며 일부 모델에서는 약 8포인트의 정확도 향상이 관찰되었다. 동시에 한 모델에서는 절감에도 불구하고 정확도가 떨어지는 사례가 있어 이 방법이 모든 설정에서 보편적으로 통용되지는 않음을 보여주었다. 따라서 도구·지시문·검색 결과 등 컨텍스트 요소를 쿼리별로 선별하는 접근은 토큰 비용과 노이즈를 줄이는 실무적 해결책이지만 각 모델과 워크로드에서 재현 가능한 벤치마크로 검증해야 한다.