모델이 아닌 서버가 실행하는 human-in-the-loop 설계와 그 취약점 검토 요청

이 게시물은 모델이 직접 효과를 수행하지 못하도록 하고 서버가 승인된 효과를 단독으로 실행하도록 구성한 human-in-the-loop 아키텍처를 설명한다. 모델은 효과 호출을 제안만 하고, 서버는 Postgres 같은 권위 원장에 workItemId+gateId로 기록한 뒤 승인 이후에만 실제 효과를 한 번 실행하도록 설계되어 있으며 모든 단계는 감사 로그와 트레이스로 추적된다. 이러한 구성은 모델이 직접 트리거를 갖는 위험을 줄이는 한편 실행 경로의 통제를 서버에 집중시켜 재실행 제어와 중단 기능을 제공한다.

게시물은 이 설계의 세 가지 핵심 약점을 구체적으로 짚었다. 첫째, 게이트는 실행 안전성만 확보하며 모델의 잘못된 의사결정을 사람이 같은 방식으로 놓칠 수 있어 결정 안전성에는 한계가 있다. 둘째, 모델의 읽기 권한이 남아 있으면 인바운드 콘텐츠의 프롬프트 인젝션으로 제안이 오염될 수 있으므로 읽기 경로와 입력 검증이 별도로 강화되어야 한다. 셋째, 원장 기반의 exactly-once 보장 뒤에는 효과 자체의 멱등성이 반드시 필요하며 외부 호출의 멱등성 보장이 없으면 중복 부작용을 완벽히 막을 수 없다.

결론적으로 서버 실행 방식은 실행 권한 통제와 재실행 방지에 유효한 수단이지만, 결정 오류 및 데이터 유출과 같은 비실행적 위험을 동반하며 멱등성·입력 검증·검토 프로세스의 결합이 필요하다. 운영적 관점에서는 반복 실패 패턴을 분류해 특정 검토 각도로 처리하는 절차와 외부 서비스와의 계약에서 멱등성을 확보하는 설계가 필수적이다. 이 게시물은 그러한 남은 공격 면과 설계적 난제를 동료 커뮤니티에 검증해 달라고 요청하는 성격을 띠고 있다.