8k 토큰 제한 환경을 위한 CLI 코딩 에이전트 설계 전략

작성자의 접근 방식에 대해 긍정적인 반응이 많으며, 특히 로컬 LLM 사용자들 사이에서 실용적인 해결책으로 평가받고 있다.

• 작은 모델을 사용할 때는 출력물에서 Markdown 백틱(```)을 프롬프트로 막으려 하지 말고 사후 처리(Post-processing)로 제거하는 것이 더 안정적이다
• 파일이 150줄 이상일 경우 전체를 넣지 말고 라인 인덱스를 생성해 필요한 부분만 추출하는 로직을 구현하라

• 8k 토큰 제한 환경에서는 LLM에게 전체 프로젝트를 보여주는 대신 가벼운 프로젝트 맵과 단일 파일 단위로 컨텍스트를 격리해야 한다
• 토큰 예산은 시스템 프롬프트와 출력 예약분을 포함하여 코드 수준에서 사전에 계산하고 초과 시 부분 추출 로직으로 대응해야 한다
• 의존성 그래프를 활용한 병렬 실행은 좁은 컨텍스트 환경에서 발생하는 순차 처리의 지연 시간을 극복하는 핵심 요소이다