로컬 LLM을 위한 신뢰도 평가기 구축 실험: Autodidact 프레임워크

작성자의 실험 결과에 대해 커뮤니티는 특히 Llama 모델의 낮은 자기 평가 능력과 RAG 컨텍스트 주입의 부작용에 대해 높은 관심을 보였다.

• 신뢰도 평가 게이트를 만들 때 '검색 결과가 도움이 되는가'와 '답을 알고 있는가'를 묻는 질문을 명확히 분리하십시오.
• Llama 3.1 8B를 사용할 경우 프롬프트 기반의 자기 평가 대신 로그 확률 기반의 수치적 접근을 우선 고려하십시오.
• 앙상블 모델을 구축하기 전에 반드시 단일 지표(Baseline)와 성능을 비교하여 노이즈 유입 여부를 확인하십시오.

• 로컬 모델의 신뢰도 평가 시 검색 컨텍스트를 주입하면 모델이 자신의 지식을 불신하게 만들어 AUROC가 약 0.08 하락할 수 있다.
• Llama 3.1 8B와 같은 모델은 자기 평가 능력이 매우 낮으므로, 신뢰도 교정이 중요한 워크로드에서는 Mistral 7B-Instruct와 같이 교정 성능이 검증된 모델을 선택해야 한다.
• 복잡한 다중 신호 앙상블은 품질이 낮은 신호에 의해 전체 성능이 저하될 위험이 크므로, 단일 로그 확률(Logprob) 지표를 우선적으로 검토해야 한다.
• RAG 성능이 낮을 때는 LLM을 탓하기 전에 검색 리콜(Recall) 지표를 확인하여 임베딩 모델이나 리랭커의 문제인지 먼저 진단해야 한다.