자기 불확실성으로 행동하는 LOLM 에이전트

원문 게시자는 구현 코드와 데모 링크를 함께 제공하며 설계의 한계와 미해결 문제를 투명하게 밝혔다. 이 태도는 실험 재현과 비판적 검증을 촉진하는 방향으로 받아들여졌다. 동시에 여러 댓글에서 평가 방법론의 엄밀성과 잠재 경로가 실제로 필요했는지에 대한 회의적 질문이 제기되었다.

• 평가를 강화하려면 영수증 기반 로그와 과제 성공 지표를 분리해 인과관계 분석을 수행해야 한다. 입력과 잠재 상태, 컨트롤 행동을 계측하고, 대조군 및 ablation 실험으로 어떤 구성요소가 성과에 기여했는지 통계적으로 검증해야 한다. 또한 calibration 체크와 계약 검사로 출력을 실사용 기준에 맞춰 평가해야 신뢰도가 높아진다.
• 잠재 경로의 필요성을 가리기 위해 먼저 단순화된 대체 설계를 벤치마크에 포함시키는 것이 유용하다. 예를 들어 외부 벡터 DB 기반 재검색이나 KV 캐시와의 성능 비교로 잠재 SSM의 기여도를 분리할 수 있다. 이 과정을 통해 복잡도 대비 성능 이득이 실제인지 판단할 근거를 마련할 수 있다.

잠재 상태(latent state)

— 잠재 상태는 모델 내부에 지속적으로 유지되는 축약 표현으로, 외부 입력과 과거 행동을 결합해 현재 추론 상태를 보관한다. 입력은 Transformer 등 전통적 토큰 경로를 통해 처리되며, 잠재 상태는 별도 SSM 경로로 갱신되어 지속 기억을 형성한다. 이 구조는 연속적 컨트롤과 장기 의존성 보존을 위해 필요하다고 주장된다.

폐쇄형 컨트롤러(closed-loop controller)

— 폐쇄형 컨트롤러는 모델 출력과 내부 상태를 피드백으로 받아 행동을 선택하는 제어 요소로 작동한다. 입력으로 현재 잠재 상태와 관찰을 받고, continue/retrieve/verify/branch/finalize 같은 제어 명령을 산출해 메모리와 생성을 조절한다. 이를 통해 모델은 자기 불확실성에 따라 행동을 조정하고 검증 가능한 흐름을 만들려 한다.

지속 메모리(persistent memory)

— 지속 메모리는 호출 간에 유지되는 잠재적 상태 저장소로, 단회 생성에 그치지 않고 이후 실행에 영향을 준다. 이 메모리는 SSM 경로에 보존되어 재검색·갱신이 가능하며, 에이전트의 장기 목표 추적과 증거 누적에 활용된다. 지속 메모리는 반복 작업에서 증거 기반 의사결정을 가능하게 만드는 핵심 구성요소이다.

레짐 모델링(regime modeling)

— 레짐 모델링은 동작 모드를 분류하고 전환 규칙을 학습하는 기법으로, 모델이 다른 운용 상황에서 다른 제어 전략을 선택하게 한다. 입력의 특성이나 내부 불확실성에 따라 적절한 레짐을 활성화하고 그에 맞는 잠재 경로를 사용해 행동을 조정한다. 이 방식은 단일 정책으로는 처리하기 어려운 상황별 행동 차이를 구조적으로 캡처하기 위해 사용된다.

발현 게이팅(manifestation gating)

— 발현 게이팅은 잠재 경로의 정보가 실제 토큰 생성 경로에 반영되는 시기와 범위를 제어하는 메커니즘이다. 내부 신호(NFET 등)를 기준으로 잠재 정보가 표면화될지를 결정하며, 이를 통해 불필요한 노이즈 유입을 막고 품질 손실을 억제하려 한다. 게이팅이 적절히 동작해야만 잠재 경로가 실제 성능 향상으로 이어질 가능성이 커진다.

영수증(증적)(receipts)

— 영수증은 에이전트의 활동 기록과 과제 성취를 구분해 저장하는 증적 메커니즘으로, 어떤 행동이 실제 성공에 기여했는지를 추적한다. 각 실행에 대해 활동 로그와 성공 여부를 분리해 남기므로, 이후 평가와 계약 검증에서 인과관계를 판단하기 쉽게 만든다. 영수증은 검증 가능성 향상과 책임 추적을 위해 도입된 구성요소이다.