장애 조치
시스템의 한 구성 요소가 실패했을 때 대기 중인 다른 구성 요소로 즉시 전환하여 서비스 중단을 방지하는 기능이다.
LLM API 속도 제한 해결! llm-failover로 중단 없는 에이전트 구축하기
50MB RAM으로 로컬 LLM 여러 대를 하나처럼 관리하는 Olla