본문으로 건너뛰기

inference-harness

추론 하네스

중급

AI 모델의 추론 과정을 관리하고 실행 환경과 연결하는 제어 계층이다. Anthropic의 구조에서는 이를 상태 비저장(Stateless) 방식으로 설계하여 특정 인스턴스에 장애가 발생해도 시스템 전체의 안정성을 유지한다.