qkv-projection
Q, K, V 투영
입력 임베딩을 Query(질문), Key(색인), Value(값)라는 세 가지 서로 다른 벡터 공간으로 변환하는 과정이다. Query와 Key의 유사도를 계산해 가중치를 얻고, 이를 Value에 곱해 최종 출력을 생성하는 방식으로 작동하여 정보의 선택적 집중을 구현한다.
Q, K, V 투영
입력 임베딩을 Query(질문), Key(색인), Value(값)라는 세 가지 서로 다른 벡터 공간으로 변환하는 과정이다. Query와 Key의 유사도를 계산해 가중치를 얻고, 이를 Value에 곱해 최종 출력을 생성하는 방식으로 작동하여 정보의 선택적 집중을 구현한다.
