본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

멀티헤드 잠재 어텐션 (multi-head-latent-attention) 용어 설명 | AI Trends

multi-head-latent-attention

멀티헤드 잠재 어텐션

고급

KV 캐시를 잠재 벡터로 압축하여 추론 시 메모리 사용량을 획기적으로 줄이는 어텐션 메커니즘이다. 긴 멀티모달 시퀀스를 처리할 때 높은 효율성을 제공한다.

비슷한 개념

mla mla-multi-head-latent-attention mqa kv-compaction multi-head-attention kv-quantization kv-caching kv-cache-compression

← 용어 사전 전체 보기