LLM2Vec 스타일 임베딩
LLM2Vec 스타일은 LLM 출력에서 고정 길이 임베딩을 추출하기 위해 양방향 처리와 풀링 전략을 결합하는 접근법을 가리킨다. 본문에서는 bidirectional 처리 후 mean-pool을 적용하고 L2 정규화로 임베딩을 표준화하는 파이프라인이 사용되었다. 이런 방식은 문맥 정보를 더 풍부하게 포착해 검색 성능 향상에 기여할 수 있다.