Claude Code 기반 실시간 음성 비서 시스템 구축기

작성자의 혁신적인 아키텍처와 지연 시간 최적화 결과에 대해 매우 긍정적인 반응을 보이고 있다.

• Claude Code CLI 사용 시 --include-partial-messages 옵션을 주면 토큰 단위 스트리밍 데이터를 받아 지연 시간을 줄일 수 있음.
• 로컬 TTS 엔진으로 Kokoro-82M을 사용하면 클라우드 API 대비 약 4.6배 빠른 응답 속도를 얻을 수 있음.
• 대화 중단 기능을 구현할 때 SIGINT 신호를 LLM 프로세스에 보내고 --resume으로 재시작하면 컨텍스트 손실 없이 즉각적인 반응이 가능함.

• Claude Code CLI의 --resume과 프롬프트 캐싱 기능을 활용해 API 비용 없이 고성능 음성 비서를 구현함.
• 토큰 스트리밍과 문장 단위 버퍼링을 통해 첫 음성 출력 지연 시간을 90% 이상 단축함.
• 온디바이스 VAD와 운율 분석 모델을 결합해 800ms 이내의 빠른 대화 중단 반응 속도를 확보함.