프롬프트 튜닝 자동화로 수일의 작업을 한 시간으로 단축하는 GEPA의 프롬프트 진화
GEPA의 Reflective Prompt Mutation과 DSPy 기반 자동 최적화는 프롬프트 후보를 자동으로 진화시키고 Pareto Front로 다축 최적화를 수행하여 LLM 프롬프트 튜닝의 비용과 시간을 크게 줄이고 정책 준수와 품질을 동시에 개선한다.
LINE과 야후 재팬을 운영하는 LY Corporation의 기술 블로그로, 대규모 서비스 운영을 위한 인프라, 모바일 개발, AI 활용 및 코드 품질 개선에 관한 기술적 인사이트를 공유합니다.
GEPA의 Reflective Prompt Mutation과 DSPy 기반 자동 최적화는 프롬프트 후보를 자동으로 진화시키고 Pareto Front로 다축 최적화를 수행하여 LLM 프롬프트 튜닝의 비용과 시간을 크게 줄이고 정책 준수와 품질을 동시에 개선한다.
대규모 인프라를 코드로 관리하고 GitOps로 배포하며, Slack AI 에이전트로 코드 생성까지 자동화한 사례를 설명한다.
AI 에이전트의 복잡한 API 접근 권한을 기업 IdP를 통해 중앙에서 안전하게 관리하는 차세대 표준인 ID-JAG의 개념과 이점을 설명한다.