본문으로 건너뛰기

Hybrid Attention

하이브리드 어텐션

표준 어텐션 메커니즘과 다른 효율적인 연산 방식을 결합하여 긴 문맥 처리 성능과 속도를 동시에 개선하는 설계 방식이다.