싱가포르 법률 및 정책 문서를 위한 오픈소스 RAG 엔진 'Explore Singapore'

작성자가 이전의 피드백을 반영하여 웹페이지를 개선했다는 점에 대해 긍정적인 반응이 있으며, 오픈소스 프로젝트로서의 학습 과정에 대해 격려하는 분위기이다.

• LLM 서비스의 안정성을 위해 단일 API에 의존하지 말고 여러 모델을 계층적으로 배치하는 장애 조치 로직을 구현하는 것이 좋다.
• 다양한 모델을 혼용할 때는 각 모델의 토큰 처리 방식과 페르소나를 고려하여 전용 시스템 프롬프트를 작성해야 한다.

• 33,000페이지 분량의 싱가포르 법률 데이터를 RAG로 인덱싱하여 정보 접근성을 개선했다.
• Gemini, OpenRouter, Groq를 순차적으로 연결한 계층형 장애 조치 시스템으로 가용성을 극대화했다.
• 모델 간 성능 차이를 극복하기 위해 개별적인 시스템 프롬프트와 인스트럭션 세트를 활용했다.