Dynamic Embedding
Dynamic Embedding
고정된 embedding table을 미리 할당하지 않고 실제로 접근한 사용자나 상품 ID에만 embedding 행을 동적으로 배정하는 방식이다. scored hash table과 admission control, score-based eviction을 사용해 HBM과 pinned host memory를 함께 관리하며, 계속 늘어나는 고카디널리티 데이터를 처리한다.
Dynamic Embedding
고정된 embedding table을 미리 할당하지 않고 실제로 접근한 사용자나 상품 ID에만 embedding 행을 동적으로 배정하는 방식이다. scored hash table과 admission control, score-based eviction을 사용해 HBM과 pinned host memory를 함께 관리하며, 계속 늘어나는 고카디널리티 데이터를 처리한다.