이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
디지털 인화 서비스 기업 Popsa는 기존의 규칙 기반 알고리즘 한계를 극복하기 위해 Amazon Bedrock 기반의 생성형 AI를 도입했다. 메타데이터와 역 지오코딩을 결합한 검색 기반 퓨샷 프롬프팅 아키텍처를 구축하여 12개 언어로 창의적인 제목과 부제목을 자동 생성한다. Anthropic의 Claude 3 Haiku에서 Amazon Nova 모델군으로 전환하며 사용자 긍정 피드백이 71%에서 73%로 상승했고, 비용 효율성도 확보했다. 특히 ConverseStream API를 통해 첫 제안 생성 시간(TTFS)을 0.92초로 단축하며 사용자 경험을 획기적으로 개선했다.
배경
Amazon Bedrock API 사용법, 프롬프트 엔지니어링(Few-shot) 기초 지식, RAG(검색 증강 생성) 개념
대상 독자
생성형 AI를 활용해 사용자 경험을 개선하고 운영 비용을 최적화하려는 서비스 개발자 및 ML 엔지니어
의미 / 영향
이 사례는 특정 도메인 지식이 필요한 작업에서 LLM과 기존 메타데이터를 결합한 RAG 아키텍처가 얼마나 효과적인지 보여줍니다. 특히 Amazon Nova와 같은 최신 모델군과 스트리밍 API를 결합함으로써 대규모 B2C 서비스에서도 지연 시간과 비용 문제를 동시에 해결할 수 있음을 입증했습니다.
섹션별 상세
기존의 템플릿 기반 알고리즘은 '프랑스 2024'와 같은 단순한 제목만 생성하여 사용자에게 창의적인 영감을 주는 데 한계가 있었다. Popsa는 이를 해결하기 위해 사진의 위치, 시간, 객체 인식 데이터를 LLM의 컨텍스트로 활용하는 새로운 파이프라인을 설계했다. 이를 통해 사용자의 추억을 더 감성적이고 브랜드 정체성에 맞는 문구로 변환할 수 있게 됐다. 결과적으로 2025년에만 550만 개 이상의 개인화된 제목을 생성하는 성과를 거뒀다.
엄격한 레이아웃 제한과 데이터 정합성을 유지하기 위해 출력 형식을 JSON으로 고정하고 글자 수를 36자로 제한하는 가드레일을 설정했다. 검색 기반 퓨샷 프롬프팅 기법을 사용하여 유사한 디자인 사례를 모델에게 예시로 제공함으로써 모델이 규칙을 자연스럽게 학습하도록 유도했다. LLM-as-a-judge 방식을 도입하여 12개 언어에 대한 품질과 브랜드 톤 일치 여부를 신속하게 평가하고 최적의 프롬프트를 도출했다. 이 과정에서 Claude 3 Haiku 모델이 초기 성공의 핵심 역할을 수행했다.
근거
- Claude 3 Haiku 도입으로 긍정적인 사용자 피드백이 58%에서 71%로 13% 증가했다. — Generating title suggestions with Amazon Bedrock 섹션 마지막 문단
최신 모델인 Amazon Nova 시리즈를 도입하여 성능과 비용의 균형을 재최적화했다. A/B 테스트 결과 Nova Pro는 73%의 가장 높은 긍정 피드백을 기록했으며, Nova Lite는 Claude 3 Haiku 대비 훨씬 낮은 비용으로 유사한 품질을 제공함을 확인했다. 특히 Nova Lite는 토큰당 가격이 대폭 저렴하고 응답 속도가 빨라 대규모 서비스 운영에 적합한 모델로 선정됐다. 이러한 모델 전환은 Amazon Bedrock의 통합 API 덕분에 코드 수정 최소화만으로 단 몇 시간 만에 이루어졌다.
근거
- Amazon Nova Pro는 73%의 긍정 피드백을 기록하며 테스트된 모델 중 가장 높은 만족도를 보였다. — Improving customer satisfaction and reducing cost with Amazon Nova 섹션
사용자 체감 속도를 높이기 위해 기존 InvokeModel 방식에서 ConverseStream API를 통한 스트리밍 방식으로 전환했다. 전체 응답이 완료되기를 기다리지 않고 첫 번째 유효한 제목-부제목-카테고리 세트가 검증되는 즉시 클라이언트에 반환하는 로직을 FastAPI로 구현했다. 이 최적화를 통해 평균 TTFS(Time to First Suggestion)를 1.41초에서 0.92초로 약 35% 단축했다. 사용자는 앱에서 대기 시간 없이 즉각적인 추천을 확인하며 서비스 몰입도가 높아졌다.
근거
- ConverseStream API로 전환하여 TTFS를 1.41초에서 0.92초로 35% 단축했다. — Reducing Time to First Suggestion with the ConverseStream API 섹션
용어 해설
- Retrieval-based Few-shot Prompting
- — 데이터베이스에서 현재 입력과 유사한 사례를 검색하여 프롬프트의 예시(few-shot)로 제공하는 기법이다. 모델이 특정 도메인의 스타일이나 규칙을 더 잘 모방하도록 유도하며, Popsa 사례에서는 과거의 성공적인 제목 사례를 참고해 일관된 브랜드 톤을 유지하는 데 사용됐다.
- TTFS
- — 사용자의 요청 후 첫 번째 유효한 결과물이 화면에 나타날 때까지 걸리는 시간을 의미한다. 전체 응답이 완료되기 전이라도 사용자에게 즉각적인 피드백을 제공함으로써 서비스의 체감 속도와 반응성을 높이는 핵심 성능 지표(KPI)로 활용된다.
- Reverse Geocoding
- — 위도와 경도 좌표를 사람이 읽을 수 있는 주소나 지명(예: 프랑스 알프스)으로 변환하는 프로세스이다. 사진 메타데이터의 위치 정보를 텍스트 설명으로 변환하여 LLM이 맥락에 맞는 제목을 생성할 수 있도록 기초 데이터를 제공하는 역할을 한다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 04. 28.수집 2026. 04. 28.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.