이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
세션 로그를 모두 주입하던 장기 실행 에이전트가 약 100KB에서 토큰 한도보다 먼저 일관성 문제를 일으켰습니다. 폐기된 결정과 최신 결정을 같은 비중으로 넣은 탓에 모델이 이미 끝난 판단을 되풀이하고 모호한 상황에서 질문 대신 틀린 행동을 했다는 진단입니다. 작성자는 이를 해결하기 위해 정체성 문서, 새 사실만 추가하는 날짜순 Ledger, 현재 상태만 덮어쓰는 State를 순서대로 주입해 전체 크기를 2KB 미만으로 줄였습니다. 이 방식은 행동 일관성용이며 특정 과거 사실을 찾는 retrieval layer를 대체하지 않습니다.
실용적 조언
- 장기 실행 에이전트의 컨텍스트를 전체 세션 로그로 채우기보다 현재 정체성, 변경 이력, 최신 상태를 분리하는 구성을 우선할 수 있습니다. 정체성 문서에는 목적과 금지 행동, 불확실성 처리만 짧게 두고 날짜가 붙은 상태 정보는 다른 문서로 이동합니다. 최신 상태는 누적하지 않고 덮어써야 과거 결정이 현재 지침과 같은 비중을 차지하지 않습니다.
- Ledger를 운영할 때는 새 항목이 직전 항목에 없는 사실을 최소 하나 포함해야 한다는 규칙을 둘 수 있습니다. 이 조건이 없으면 한 달 뒤 이력이 이전 항목을 반복하는 요약문으로 채워져 정보량이 거의 늘지 않습니다. 특정 과거 사실의 회상이 필요하다면 이 상태 관리 방식만으로 대체하지 말고 별도의 retrieval layer를 마련해야 합니다.
섹션별 상세
장기 실행 프로젝트에서 세션 로그를 계속 추가해 전체 주입하는 방식은 약 100KB에 이르자 토큰 한도나 비용보다 먼저 일관성 문제를 일으켰습니다. 모델은 과거 기록을 정확히 인용하면서도 같은 작업을 세션마다 다르게 처리했고, 이미 끝난 결정을 다시 열거나 실제 작업 대신 읽은 내용을 요약했습니다. 작성자는 로그가 단순한 잡음이 아니라 폐기된 접근과 번복된 결정을 현재 결정과 같은 확신과 비중으로 담은 모순이라고 진단했습니다.
작성자는 기억과 모순을 구분해야 해결책이 달라진다고 봅니다. 잡음이면 압축이나 검색이 도움이 되지만, 서로 충돌하는 기록을 압축하면 여러 입장을 모두 옳았던 것처럼 평탄화하므로 오히려 문제가 커집니다. 특히 불확실할 때 어떻게 행동할지 정한 문장이 사실 누락보다 큰 영향을 주었으며, 모호한 상황에서 질문하지 않고 그럴듯하지만 틀린 행동을 하는 문제가 반복됐습니다.
전체 로그를 대신해 Identity, Ledger, State라는 세 파일을 순서대로 주입하는 구조를 사용했고, 합계 크기는 2KB 미만이었습니다. Identity에는 시스템의 목적과 금지 행동, 불확실성 대응을 네다섯 문장으로 담고 날짜를 넣지 않았으며, Ledger에는 최신 항목부터 날짜순으로 기록하되 이전 항목에 없는 사실이 하나라도 있을 때만 새 항목을 추가했습니다. State는 현재의 사실만 담아 덮어쓰고 과거는 Ledger에 남겨 최신 지침과 이력을 분리했습니다.
이 구조의 적용 범위는 안정적인 목적을 가진 장기 실행 시스템의 행동 일관성으로 제한됩니다. 특정 과거 사실을 필요할 때 찾아야 하는 경우에는 별도의 retrieval layer가 여전히 필요하며, 작성자는 행동에는 지시가 증거보다 우선하고 대체된 증거는 없는 것보다 나쁠 수 있다고 정리했습니다. 다만 파일이 디스크에 존재하는지 보장하는 것과 다음 주에도 같은 해석을 보장하는 것은 다르며, 후자의 차이가 남은 버그의 원인으로 남아 있습니다.
용어 해설
- 상태 비저장 에이전트(stateless agent)
- — 세션 사이에 내부 기억을 유지하지 않는 에이전트 구조입니다. 각 세션 시작 때 외부 파일을 컨텍스트로 주입해 이전 상태를 복원합니다. 장기 작업에서는 파일 구성 방식이 일관성과 연속성을 좌우합니다.
- 컨텍스트 한도(context limit)
- — 모델이 한 번의 요청에서 처리할 수 있는 입력과 출력 토큰의 총량입니다. 원문에서는 한도나 비용보다 먼저 과거 기록의 모순이 행동 일관성을 무너뜨렸습니다. 따라서 단순한 길이 축소만으로는 문제를 해결하기 어렵습니다.
- 검색 계층(retrieval layer)
- — 필요한 과거 사실을 저장소에서 찾아 현재 요청의 컨텍스트로 가져오는 구성 요소입니다. 원문은 특정 과거 사실을 즉시 회상하려면 별도의 retrieval layer가 필요하다고 구분합니다. 행동 일관성을 위한 상태 관리와 사실 검색은 서로 다른 문제입니다.
- 대체된 상태(superseded state)
- — 과거에는 현재의 사실이었지만 새로운 결정이나 변경으로 더 이상 유효하지 않은 상태입니다. 원문에서는 이 정보가 최신 상태와 같은 비중으로 남아 모델의 판단을 흔든다고 봅니다. 현재 상태와 이력을 분리하면 대체된 정보가 행동 지침처럼 읽히는 문제를 줄일 수 있습니다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 21.수집 2026. 08. 21.출처 타입 REDDIT
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
