이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
핵심 요약
디지털 인화 서비스 기업 Popsa는 기존의 규칙 기반 알고리즘 한계를 극복하기 위해 Amazon Bedrock 기반의 생성형 AI를 도입했다. 메타데이터와 역 지오코딩을 결합한 검색 기반 퓨샷 프롬프팅 아키텍처를 구축하여 12개 언어로 창의적인 제목과 부제목을 자동 생성한다. Anthropic의 Claude 3 Haiku에서 Amazon Nova 모델군으로 전환하며 사용자 긍정 피드백이 71%에서 73%로 상승했고, 비용 효율성도 확보했다. 특히 ConverseStream API를 통해 첫 제안 생성 시간(TTFS)을 0.92초로 단축하며 사용자 경험을 획기적으로 개선했다.
배경
Amazon Bedrock API 사용법, 프롬프트 엔지니어링(Few-shot) 기초 지식, RAG(검색 증강 생성) 개념
대상 독자
생성형 AI를 활용해 사용자 경험을 개선하고 운영 비용을 최적화하려는 서비스 개발자 및 ML 엔지니어
의미 / 영향
이 사례는 특정 도메인 지식이 필요한 작업에서 LLM과 기존 메타데이터를 결합한 RAG 아키텍처가 얼마나 효과적인지 보여줍니다. 특히 Amazon Nova와 같은 최신 모델군과 스트리밍 API를 결합함으로써 대규모 B2C 서비스에서도 지연 시간과 비용 문제를 동시에 해결할 수 있음을 입증했습니다.
섹션별 상세
기존의 템플릿 기반 알고리즘은 '프랑스 2024'와 같은 단순한 제목만 생성하여 사용자에게 창의적인 영감을 주는 데 한계가 있었다. Popsa는 이를 해결하기 위해 사진의 위치, 시간, 객체 인식 데이터를 LLM의 컨텍스트로 활용하는 새로운 파이프라인을 설계했다. 이를 통해 사용자의 추억을 더 감성적이고 브랜드 정체성에 맞는 문구로 변환할 수 있게 됐다. 결과적으로 2025년에만 550만 개 이상의 개인화된 제목을 생성하는 성과를 거뒀다.
엄격한 레이아웃 제한과 데이터 정합성을 유지하기 위해 출력 형식을 JSON으로 고정하고 글자 수를 36자로 제한하는 가드레일을 설정했다. 검색 기반 퓨샷 프롬프팅 기법을 사용하여 유사한 디자인 사례를 모델에게 예시로 제공함으로써 모델이 규칙을 자연스럽게 학습하도록 유도했다. LLM-as-a-judge 방식을 도입하여 12개 언어에 대한 품질과 브랜드 톤 일치 여부를 신속하게 평가하고 최적의 프롬프트를 도출했다. 이 과정에서 Claude 3 Haiku 모델이 초기 성공의 핵심 역할을 수행했다.
최신 모델인 Amazon Nova 시리즈를 도입하여 성능과 비용의 균형을 재최적화했다. A/B 테스트 결과 Nova Pro는 73%의 가장 높은 긍정 피드백을 기록했으며, Nova Lite는 Claude 3 Haiku 대비 훨씬 낮은 비용으로 유사한 품질을 제공함을 확인했다. 특히 Nova Lite는 토큰당 가격이 대폭 저렴하고 응답 속도가 빨라 대규모 서비스 운영에 적합한 모델로 선정됐다. 이러한 모델 전환은 Amazon Bedrock의 통합 API 덕분에 코드 수정 최소화만으로 단 몇 시간 만에 이루어졌다.
사용자 체감 속도를 높이기 위해 기존 InvokeModel 방식에서 ConverseStream API를 통한 스트리밍 방식으로 전환했다. 전체 응답이 완료되기를 기다리지 않고 첫 번째 유효한 제목-부제목-카테고리 세트가 검증되는 즉시 클라이언트에 반환하는 로직을 FastAPI로 구현했다. 이 최적화를 통해 평균 TTFS(Time to First Suggestion)를 1.41초에서 0.92초로 약 35% 단축했다. 사용자는 앱에서 대기 시간 없이 즉각적인 추천을 확인하며 서비스 몰입도가 높아졌다.
실무 Takeaway
- 반복적인 규칙 기반 시스템을 LLM 기반의 검색 기반 퓨샷 프롬프팅으로 교체하여 사용자 긍정 피드백을 58%에서 73%까지 끌어올릴 수 있다.
- Amazon Bedrock의 ConverseStream API를 활용해 결과물을 실시간 파싱하여 반환하면 TTFS를 1초 미만으로 줄여 사용자 이탈을 방지할 수 있다.
- Amazon Nova Lite와 같은 경량 모델을 활용하면 고성능 모델 대비 품질 저하를 최소화하면서도 운영 비용을 획기적으로 절감하고 처리량을 높일 수 있다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 04. 28.수집 2026. 04. 28.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.