본문으로 건너뛰기

Dynamic Embedding

Dynamic Embedding

고정된 embedding table을 미리 할당하지 않고 실제로 접근한 사용자나 상품 ID에만 embedding 행을 동적으로 배정하는 방식이다. scored hash table과 admission control, score-based eviction을 사용해 HBM과 pinned host memory를 함께 관리하며, 계속 늘어나는 고카디널리티 데이터를 처리한다.