lost-in-the-middle
긴 문맥의 중간에 위치한 정보에 대해 모델의 주의력이 급격히 떨어지는 현상이다. 이로 인해 초기 시스템 프롬프트에 정의된 복잡한 규칙들이 긴 대화 도중 무시되기 쉽다.
100페이지 PDF 요약했더니... GPT가 73페이지 내용을 마음대로 섞어버립니다
임베딩 모델보다 '청킹'이 5배 더 중요하다? 실전 RAG 개발의 교훈
컨텍스트 윈도우가 커져도 RAG가 필수인 이유: 비용 90% 절감의 비밀
에이전트의 무한 루프 해결법? Replit이 공개한 비용 90% 절감 가이드