섹션별 상세
New Relic NOVA는 Amazon Bedrock의 Nova Lite 및 Pro 모델을 활용하여 성능과 비용 효율성을 최적화한 엔터프라이즈급 AI 에이전트이다. 이 시스템은 사내의 파편화된 지식을 통합하여 매일 1,000건 이상의 쿼리를 처리하며, 80% 이상의 답변 정확도를 유지한다.
시스템 아키텍처는 사용자 의도를 파악하는 메인 오케스트레이션 레이어와 지식 검색을 위한 RAG 레이어, 그리고 외부 플랫폼 연동을 위한 에이전트 레이어로 구분된다. 특히 MCP(Model Context Protocol)를 도입하여 GitHub, Salesforce, Jira와 같은 외부 도구와의 상호작용을 표준화하고 확장성을 확보했다.
RAG 성능을 극대화하기 위해 계층적 청킹(Hierarchical Chunking) 기법을 적용했다. AWS Lambda를 사용하여 문서 인입 단계에서 키워드와 컨텍스트를 보강하고, 작성자 및 수정일 등의 메타데이터를 통합하여 검색의 정밀도를 높였다.
LLM-as-a-judge 프레임워크를 통해 답변의 정확성, 컨텍스트 관련성, 응답 지연 시간을 상시 모니터링한다. 1~5점 척도의 정량적 지표를 활용하여 모델 업데이트나 프롬프트 수정 시 성능 변화를 즉각적으로 검증한다.
Slack의 이모지 반응 기능을 활용한 사용자 피드백 수집 체계를 구축했다. 수집된 데이터는 AWS Glue와 Athena를 거쳐 QuickSight로 시각화되며, 이를 통해 실제 사용자 만족도와 시스템의 개선 필요 지점을 데이터 기반으로 파악한다.
기술
- Amazon Bedrock
- Amazon Kendra
- Amazon Nova
- AWS Lambda
- Amazon DynamoDB
- MCP
- Slack API
활용 사례
- 사내 문서 통합 검색 시스템
- 자동화된 팀 권한 요청 처리
- API 속도 제한 관리 자동화
- 지능형 코드 리뷰 보조
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 02. 10.수집 2026. 02. 21.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
