pagedattention

vLLM이 사용하는 메모리 최적화 기법으로, KV 캐시를 페이징 방식으로 관리해 단일 노드의 메모리 한계를 완화하고 연속 배칭과 결합해 단일 노드 처리 효율을 높이는 역할을 한다.