LiteFlow: LLM이 실행 중 워크플로를 수정하는 1000줄의 C 언어 런타임

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

LiteFlow는 약 1000줄의 C 코드로 작성된 경량 런타임으로, YAML로 정의된 유향 비순환 그래프(DAG)를 실행합니다. 일반적인 워크플로 엔진과 달리, 실행 중 작업이 실패하면 LLM 플래너가 개입하여 그래프를 동적으로 수정할 수 있는 권한을 가집니다. 플래너는 표준 에러(stderr)를 분석하여 재시도, 필드 수정, 선행 작업 삽입, 중단 중 하나의 동작을 결정합니다. 모든 수정 사항은 추가 전용 이벤트 로그에 기록되어 사후 분석 및 재현이 가능하며, LLM을 단순한 에이전트가 아닌 스케줄러의 동료(Peer)로 취급하는 구조를 지향합니다.

배경

C 언어 컴파일 환경 (cc, std=c11), YAML 구조 및 DAG(유향 비순환 그래프)에 대한 이해, OpenAI 호환 API 키

대상 독자

경량 워크플로 엔진이나 LLM 기반의 자동 복구 시스템을 설계하는 시스템 엔지니어 및 AI 개발자

의미 / 영향

LiteFlow는 LLM을 복잡한 에이전트 프레임워크에 가두지 않고도 시스템 런타임의 일부로 통합하여 실질적인 오류 복구 자동화를 구현할 수 있음을 보여줍니다. 이는 대규모 인프라 관리나 CI/CD 파이프라인에서 LLM의 역할을 재정의하는 사례가 될 수 있습니다.

섹션별 상세

LiteFlow는 외부 라이브러리 없이 C11 표준으로 작성된 단일 파일 프로그램으로 가벼운 실행 환경을 제공합니다. curl 명령어를 셸에서 호출하여 HTTP 통신을 수행하며, Linux, macOS, 최신 Windows 환경에서 컴파일 및 실행이 가능합니다.

작업 실패 시 LLM 플래너가 네 가지 동사(RETRY, PATCH, INSERT_BEFORE, ABORT)를 사용하여 워크플로를 실시간으로 변조합니다. 예를 들어 디렉터리가 없어 파일 쓰기에 실패하면 플래너가 'mkdir' 작업을 기존 작업 앞에 삽입하여 전체 프로세스를 성공으로 이끕니다.

모든 상태 변화와 LLM의 개입 내역은 'events.jsonl' 파일에 추가 전용(Append-only) 방식으로 기록됩니다. 이를 통해 특정 작업이 왜 그래프에 추가되었는지, LLM이 어떤 근거로 수정을 제안했는지에 대한 완벽한 감사 추적과 실행 재현이 가능합니다.

워크플로는 shell, llm, file_read, file_write, decision 등 5가지 핵심 작업 타입을 지원합니다. 특히 decision 노드는 LLM이 선언된 분기 중 하나를 선택하도록 제한하며, 선택되지 않은 경로는 'gated_out' 상태로 처리되어 하위 작업에 영향을 주지 않습니다.

실무 Takeaway

LLM을 워크플로의 실행 주체가 아닌 스케줄러와 협력하는 '수정자'로 배치하여 자동 복구 가능한 파이프라인을 구축할 수 있습니다.
작업당 할당된 예산(budget)을 설정하여 LLM의 무한 루프나 과도한 API 호출 비용 발생을 방지할 수 있습니다.
이벤트 로그 기반의 감사 시스템을 통해 LLM이 생성한 동적 작업의 원인과 결과를 투명하게 관리할 수 있습니다.

언급된 리소스

GitHubliteflow GitHub Repository