LLM 에이전트를 위한 ANDON: 도요타 생산 방식(TPS)을 활용한 코딩 에이전트 오류 방지 프레임워크

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

LLM 코딩 에이전트는 오류 발생 시 무의미한 재시도를 반복하거나 요구사항을 임의로 완화하는 등의 구조적 결함을 보인다. 이를 해결하기 위해 도요타 생산 방식(TPS)의 핵심 원칙인 안돈(Andon)과 카이젠(Kaizen)을 도입한 프레임워크가 공개됐다. 이 시스템은 결함 감지 시 즉시 라인을 멈추고(Jidoka), 근본 원인을 규명하여 표준을 업데이트함으로써 동일한 오류의 재발을 막는다. Claude Code와 같은 도구에 훅(Hook) 형태로 통합되어 에이전트의 신뢰성과 코드 품질을 높인다.

배경

Claude Code 또는 유사한 훅 시스템을 지원하는 LLM 에이전트, Python 3.10 이상, 기본적인 Bash 명령어 및 Git 사용 지식

대상 독자

프로덕션 환경에서 LLM 코딩 에이전트를 운영하며 신뢰성과 품질 관리 문제를 겪는 개발자 및 MLOps 엔지니어

의미 / 영향

에이전트의 자율성보다 통제와 학습에 집중하여 신뢰성을 확보하는 새로운 패러다임을 제공한다. 이는 대규모 멀티 에이전트 시스템의 높은 실패율을 해결하는 실질적인 대안이 되며, 제조 현장의 검증된 원칙이 소프트웨어 AI 분야에도 유효함을 입증한다.

섹션별 상세

LLM 코딩 에이전트는 목표 최적화 과정에서 무한 재시도 루프, 휘발성 학습, 사양 드리프트와 같은 구조적 약점을 드러낸다. 특정 LLM의 버그가 아니라 목표를 달성하려는 시스템의 본질적 특성으로 인해 발생하며, 이는 시간 낭비와 저품질 결과물로 이어진다.

안돈(ANDON) 원칙을 적용하여 비정상 상태 감지 시 즉시 프로세스를 중단한다. Bash 명령어가 0이 아닌 종료 코드를 반환하면 PostToolUse 훅이 이를 감지하고 안돈 상태를 '열림'으로 설정하여 git push나 배포와 같은 전진 명령을 차단한다. 이를 통해 결함이 다음 공정으로 넘어가는 것을 물리적으로 방지한다.

json

{
  "hooks": {
    "PreToolUse": [
      {
        "matcher": "Bash",
        "hooks": [".claude/hooks/tps-andon-pretool-guard.sh"]
      }
    ],
    "PostToolUse": [
      {
        "matcher": "Bash",
        "hooks": [".claude/hooks/tps-andon-posttool-guard.sh"]
      }
    ]
  }
}

Claude Code 설정 파일에 안돈 가드 훅을 등록하여 도구 사용 전후에 검증 로직을 실행하는 예시

카이젠(Kaizen) 프로세스를 통해 모든 실패를 학습의 기회로 전환한다. 실패가 발생하면 5-Whys 기법으로 근본 원인을 규명하고, 이를 해결하기 위한 표준(CLAUDE.md 등)을 자동으로 업데이트한다. 신뢰도가 0.70 이상인 경우 예방 규칙이 표준 레지스트리에 자동으로 등록되어 지식의 휘발을 막는다.

python

rules = [
    ("command_not_found", "Command not found", 0.94, r"command not found"),
    ("python_module_missing", "ModuleNotFoundError", 0.88, r"ModuleNotFoundError"),
    ("node_module_missing", "Cannot find module", 0.84, r"Cannot find module"),
    ("permission_denied", "Permission denied", 0.82, r"Permission denied"),
    ("path_missing", "No such file or directory", 0.79, r"No such file or directory")
]

실패 유형을 분류하고 신뢰도 점수를 부여하기 위한 정규표현식 규칙 정의

메타-안돈(Meta-ANDON) 기능은 에이전트가 동일한 지점에서 반복적으로 실패하는 패턴을 감지한다. 3회 연속 실패나 한 세션 내 2회 이상의 안돈 발생 시 트리거되며, 에이전트를 즉시 '계획 모드(Plan Mode)'로 전환시킨다. 에이전트는 구현을 멈추고 전체 단계를 서면으로 재검토한 뒤 사용자의 승인을 받아야만 다음 작업을 진행할 수 있다.

출력 안전 가드(Pack 0)를 통해 전문 영역에 대한 오답 노출을 제어한다. 법률, 의료, 금융 등 규제가 필요한 도메인의 키워드를 감지하여 적절한 면책 조항을 삽입하거나 출력을 차단한다. 이는 에이전트가 권한 없는 전문직 수행(UPL 등)을 하지 않도록 돕는 최소한의 안전망 역할을 수행한다.

실무 Takeaway

시스템 프롬프트가 반복되는 코딩 워크플로우에 안돈 라인 중단 메커니즘을 적용하면 에이전트의 무의미한 API 호출 비용을 절감하고 오류 확산을 방지할 수 있다.
실패 사례를 단순 로그로 방치하지 말고 카이젠 프로세스를 통해 에이전트가 참조하는 규칙 파일에 즉시 반영하여 동일한 오류의 재발을 원천 차단해야 한다.
Claude Code의 PreToolUse 및 PostToolUse 훅을 활용하여 에이전트의 도구 사용 전후에 검증 계층을 삽입함으로써 프로덕션 환경에서의 안전성을 확보할 수 있다.

언급된 리소스

GitHubandon-for-llm-agents GitHub Repository