7개 지점 초밥 체인의 DM 주문을 자동화한 AI 에이전트 구축 사례

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

이 글은 Instagram DM을 통해 들어오는 주문을 자동화하기 위해 Meta API 웹후크로 메시지를 수신하고 각 메시지를 Claude Sonnet 4.6으로 전달해 메뉴·성분·알레르기·배달 구역 등으로 구성된 지식 베이스를 참조해 고객과 대화하고 주문을 주방과 CRM으로 직접 푸시하는 실제 운영 사례를 기술한다. 반복 전송되는 메뉴·규칙 블록을 해시 기반 캐시로 처리해 약 97%의 메시지가 캐시에서 블록을 읽도록 구현했으며 캐시 적중 시 입력 비용을 1/10 수준으로 낮춰 모든 DM에 모델을 적용해도 비용이 실무적으로 합리적이라고 보고했다. 통화·음성·사진 등 불확실한 멀티미디어 입력은 사람에게 넘겨 오류와 민감한 실수를 회피하고, 관리자 패널에 메시지별 추론 체인을 기록해 디버깅과 모니터링을 확보했다. 결과적으로 이 설계는 비용·정확성·운영 가시성의 균형을 통해 소규모 다지점 식당의 주문 자동화를 현실화하는 방법을 제시하며 운영 중 품질과 캐시 정책을 계속 관찰하고 있다고 밝힌다.

실용적 조언

메뉴와 규칙 같은 정적 참조 블록은 해시 키 기반으로 캐시해 반복 전송을 피하면 입력 토큰 비용을 크게 낮출 수 있다.
웹후크로 들어오는 이벤트를 잡 큐로 버퍼링하면 순간 트래픽 변동을 완화하고 재시도·백오프 정책을 중앙에서 관리하기가 수월하다.
멀티미디어와 불확실한 입력은 우선적으로 사람에게 넘기는 정책을 적용해 잘못된 처리로 인한 비용·평판 리스크를 줄이는 것이 유용하다.

섹션별 상세

이 시스템은 Instagram DM이 주문 채널의 약 90%를 차지하는 상황에서 한 사람이 모든 답변을 타이핑하던 문제를 해결하기 위해 고안됐다. 구현은 Meta API의 웹후크로 들어오는 메시지를 감지해 각 메시지를 Claude Sonnet 4.6 엔드포인트로 포워딩하고, 모델이 메뉴·성분·알레르기·배달 구역·영업시간·준비시간·프로모션을 포함한 지식 베이스를 참조해 자연어로 고객과 대화하며 주문을 확정하면 주방과 CRM으로 직접 푸시하는 식으로 동작한다. 실제로 7개 지점의 전체 플로우가 모델 주도 대화로 연결되며 주문이 확정되면 기록과 주방 전달이 자동으로 발생한다. 이 구조는 인건비와 응답 지연을 줄이고 주문 처리의 표준화를 가능하게 한다.

반복적으로 전체 메뉴 블록을 모델에 전송하면 비용이 크게 증가하는 문제가 있었고 이를 해결하기 위해 프롬프트 캐싱을 도입했다. 구현 세부는 메뉴·규칙 블록을 캐시 키로 저장해 동일 블록을 재사용하도록 하고, 캐시 적중 시 입력 비용을 1/10 수준으로 낮추는 방식이며 게시자는 약 97%의 메시지가 캐시에서 블록을 읽는다고 보고했다. 이 수치는 Sonnet을 모든 DM에 적용해도 비용이 실무적으로 부담스럽지 않은 수준으로 만들어 운영자가 비용을 신경 쓰지 않게 만든 핵심 근거다. 따라서 캐시 적중률과 캐시 비용 구조가 실서비스 확장 가능성을 결정하는 중요 지표로 작용한다.

시스템은 멀티미디어와 높은 불확실성 입력을 모델에 맡기지 않고 인간으로 넘기는 정책을 채택해 오류와 민감한 실수 발생 위험을 낮췄다. 구체적으로 통화, 음성메시지, 사진 등은 무조건 사람에게 전달되며 필기체 사진 같은 입력을 모델이 추측해 처리하지 않도록 설계해 잘못된 주문 출하 리스크를 회피한다. 게시자는 일반적인 텍스트 전환으로의 핸드오프가 거의 발생하지 않는다고 보고했으며 이는 자동화와 품질 보증 사이의 트레이드오프를 반영한다. 이 접근은 고객 안전과 브랜드 평판을 보호하면서 자동화의 효율을 유지하려는 실제적 선택이다.

운영 관점에서는 SvelteKit 기반의 사이트와 관리자 패널, pg-boss를 사용한 Postgres 위의 잡 큐, CRM 연동을 통해 주문 흐름과 관찰 가능성을 확보했다. 에이전트는 채팅과 메시지별로 추론 체인(reasoning chain)을 관리자 패널에 기록해 소유자가 에이전트의 판단 과정을 실시간으로 확인할 수 있게 했고 이는 문제 발생 시 원인 규명과 복구를 쉽게 만든다. 또한 웹후크→큐→모델→주방/CRM으로 이어지는 파이프라인은 순간적 트래픽을 안정적으로 처리하는 데 기여한다. 이런 통합은 프로덕션 품질의 신뢰성과 추적 가능성을 동시에 보장한다.

기술 스택과 모니터링 관행은 배포 이후 품질을 계속 관찰하는 운영 철학으로 이어졌다. 게시자는 Meta API의 DM 흐름, Claude Sonnet 4.6의 대화 처리, pg-boss 기반 큐잉, 그리고 CRM으로의 최종 기록 흐름을 핵심 구성요소로 나열했고 캐싱과 관리자 패널을 통해 비용·정확성·디버깅을 관리한다고 밝혔다. 이러한 설계는 실서비스 요구사항인 비용 효율성, 오류 방지, 그리고 운영 가시성을 동시에 충족시키려는 현실적 구현이라는 점을 근거로 제시했다. 따라서 본 사례는 소규모 다지점 레스토랑에서 AI 기반 주문 자동화를 실용적으로 운영하는 한 방법을 보여준다.

용어 해설

프롬프트 캐싱(Prompt Caching): — 대용량 또는 반복되는 시스템 프롬프트 블록을 매번 모델에 전송하지 않고 로컬 또는 외부 캐시에서 재사용해 입력 처리 비용과 지연을 줄이는 기술이다. 이 글에서는 메뉴·규칙 블록을 해시 키로 저장해 이후 메시지에서 캐시 조회로 동일 블록을 불러오도록 구현해 비용을 낮추는 핵심 수단으로 사용됐다. 캐시 적중률과 캐시 읽기 비용이 전체 서비스 운영비용에 직접적인 영향을 미친다.
웹후크(Webhook): — 외부 이벤트 발생 시 지정된 HTTP 엔드포인트로 실시간 요청을 전송해 이벤트 기반 처리를 트리거하는 통신 패턴이다. 본 사례에서는 Meta API에서 들어오는 Instagram DM을 수신하는 진입점으로 사용되어 메시지 수신을 감지하고 에이전트 파이프라인을 시작한다. 웹후크는 낮은 지연과 즉시성 있는 처리 흐름을 구성하는 데 필수적이다.
잡 큐(Job Queue): — 비동기 작업을 순서화해 안정적으로 처리하고 재시도·스케줄링을 제공하는 인프라 구성 요소이다. 이 글에서는 pg-boss를 Postgres 위에 두어 메시지 파이프라인의 작업을 큐잉하고 실패 시 재시도와 백오프를 관리해 주방 전달과 CRM 기록을 안정적으로 보장했다. 잡 큐는 웹후크의 순간적 트래픽을 안정적인 배치 처리로 완화하는 역할을 한다.
지식 베이스(Knowledge Base): — 메뉴, 성분, 알레르기 정보, 배달 구역, 영업시간, 준비시간, 프로모션 같은 정형화된 규칙과 데이터를 모아 모델 입력으로 제공하는 문서화된 참조 데이터 집합이다. 이 구현에서는 모든 지점의 메뉴와 규칙을 단일 블록으로 모델에 제공해 주문 선택·알레르기 경고·업셀링 문구 생성을 일관되게 만들어 주었다. 지식 베이스의 최신화와 정확성은 주문 정확성과 고객 안전에 직접적인 영향을 준다.

언급된 도구

SvelteKit추천

사이트와 관리자 패널의 프런트엔드 및 라우팅을 담당하는 프레임워크로 사용됐다.

Meta API중립

Instagram DM을 포함한 플랫폼 메시지를 웹후크로 수신하는 진입점 역할을 했다.

Claude Sonnet 4.6추천

고객 대화와 주문 결정, 알레르기 표지, 업셀링 문구 생성을 담당한 대화형 LLM으로 사용됐다.

pg-boss추천

Postgres 위에서 잡 큐를 운영해 비동기 작업의 스케줄링과 재시도를 관리하는 역할을 했다.

Postgres중립

데이터 영구화와 pg-boss의 백엔드로 사용되어 주문 기록과 큐 상태를 저장했다.

CRM 통합중립

확정된 주문을 레스토랑의 CRM으로 기록해 운영 현황과 매출 자료를 보존하는 역할을 했다.