Claude를 활용해 자연어를 결정론적 JS 스크립트로 변환하는 iOS 자동화 앱 PocketBot 개발기

대체로 긍정적이며, 특히 LLM을 런타임에서 제외하여 결정론적 실행을 보장한 아키텍처에 대해 많은 관심과 질문이 이어졌다.

• RAG나 에이전트 시스템 설계 시, 반복되는 작업은 LLM 추론 대신 코드를 생성하여 스케줄러(Cron)로 실행하는 방식을 고려하라.
• 모바일 환경에서 동적 코드 실행이 필요할 경우 QuickJS와 같은 경량화된 샌드박스 런타임을 활용하는 것이 안전하다.

• LLM을 코드 생성 단계에서만 활용하고 실제 실행은 결정론적 스크립트(JS)로 처리하여 환각 제거와 비용 절감을 동시에 달성했다.
• Claude Haiku와 Opus를 계층화하여 단순 매칭과 복잡한 코드 생성을 분담함으로써 추론 비용을 최적화하는 아키텍처를 제시한다.
• QuickJS 샌드박스를 활용해 모바일 환경에서도 동적으로 생성된 코드를 안전하게 실행할 수 있는 런타임을 구현했다.