OpenClaw 로컬 모델 60초 타임아웃 문제 해결 가이드

실용적 조언

OpenClaw 설정 파일의 agents.defaults.llm 섹션에 idleTimeoutSeconds: 300을 추가할 것
timeoutSeconds와 idleTimeoutSeconds를 함께 조정하여 충분한 대기 시간을 확보할 것

섹션별 상세

로컬 모델을 처음 불러오는 콜드 로드 과정에서 약 60초가 경과하면 시스템이 중단되는 현상을 발견했다. 일반적인 에이전트 타임아웃 설정을 상향 조정했음에도 불구하고 408 에러와 함께 폴백 모델로 자동 전환되는 문제가 지속됐다. 이는 모델이 메모리에 적재되는 동안 시스템이 응답이 없는 것으로 간주하여 연결을 끊기 때문에 발생한다.

OpenClaw의 내부 소스 코드인 src/agents/pi-embedded-runner/run/llm-idle-timeout.ts를 추적하여 원인을 파악했다. 첫 번째 스트리밍 토큰이 생성되기 전까지의 대기 시간이 DEFAULT_LLM_IDLE_TIMEOUT_MS 변수에 의해 60,000ms로 고정되어 있음을 확인했다. 이 값은 일반적인 타임아웃 설정과는 별개의 로직으로 작동하여 사용자를 혼란에 빠뜨렸다.

typescript

DEFAULT_LLM_IDLE_TIMEOUT_MS = 60_000

OpenClaw 내부 소스 코드에 정의된 기본 유휴 타임아웃 값

해당 문제를 해결하기 위해 설정 파일의 agents.defaults.llm.idleTimeoutSeconds 값을 180 또는 300으로 수정하는 방식을 적용했다. Gemma 모델을 사용한 실제 테스트에서 기존의 60초 제한을 넘어 정상적으로 응답이 생성되는 결과를 얻었다. 설정 변경 후에는 콜드 로드 상태에서도 시스템이 중단되지 않고 모델의 첫 번째 토큰이 나올 때까지 충분히 대기했다.

json

{ "agents": { "defaults": { "llm": { "idleTimeoutSeconds": 300 } } } }

OpenClaw에서 로컬 모델의 유휴 타임아웃을 300초로 설정하는 JSON 구성 예시

로컬 환경의 하드웨어 성능에 따라 모델 로딩 시간이 가변적이므로 유휴 타임아웃을 300초(5분)로 설정할 것을 권장했다. 이는 불필요한 폴백 전환을 방지하고 대형 모델의 안정적인 초기 구동을 보장하기 위한 조치이다. 로컬 LLM 사용자들에게는 하드웨어 제약을 극복하기 위한 필수적인 설정 변경으로 평가된다.

용어 해설

콜드 로드(Cold Load): — 모델이 메모리에 적재되지 않은 상태에서 처음 실행되어 초기화되는 과정이다. 로컬 환경에서는 모델 크기와 하드웨어 성능에 따라 이 과정에서 상당한 시간이 소요되며, 이 기간 동안 시스템은 아무런 응답을 내놓지 않아 타임아웃이 발생하기 쉽다.
유휴 타임아웃(Idle Timeout): — 시스템이 특정 작업의 진행이나 응답을 기다리며 대기하는 최대 허용 시간이다. OpenClaw에서는 첫 번째 토큰이 출력되기 전까지의 시간을 이 값으로 제한하며, 이 시간이 초과되면 작업이 실패한 것으로 간주하고 연결을 종료한다.
장애 조치(Failover): — 주 서비스나 시스템에 장애가 발생했을 때 미리 설정된 예비 시스템으로 자동 전환하는 기능이다. LLM 서비스에서는 특정 모델이 응답하지 않을 때 다른 모델로 요청을 넘겨 서비스 연속성을 유지하는 데 사용된다.

언급된 도구

OpenClaw추천

에이전트 실행 및 모델 관리 프레임워크

Ollama중립

로컬 모델 추론 엔진

Gemma중립

테스트에 사용된 로컬 언어 모델