Pinecone Dedicated Read Nodes 공개: 대규모 벡터 검색을 위한 전용 리소스 제공

섹션별 상세

Dedicated Read Nodes(DRN)는 쿼리 처리를 위해 독점적인 인프라를 할당하며 공유 큐나 읽기 속도 제한이 없는 환경을 제공한다.

데이터를 메모리와 로컬 SSD에 상주시키는 웜 데이터 경로를 유지하여 객체 스토리지로부터의 콜드 페치(Cold Fetch)로 인한 지연 시간 발생을 방지한다.

확장성은 Shard와 Replica 두 가지 차원으로 관리되며, Shard는 저장 용량을 확장하고 Replica는 초당 쿼리 수(QPS)를 선형적으로 증가시킨다.

실제 고객 사례에서 1.4B 벡터 규모의 이커머스 추천 시스템은 5.7k QPS 환경에서 p50 지연 시간 26ms, p99 지연 시간 60ms를 기록했다.

135M 벡터를 보유한 디자인 플랫폼은 DRN 노드 확장을 통해 2200 QPS 부하에서도 p50 지연 시간 60ms를 유지하며 성능 격리 효과를 입증했다.

인덱스 생성 시 b1 또는 t1 노드 타입을 선택할 수 있으며, t1 노드는 더 높은 처리 성능과 메모리 캐싱 용량을 제공하여 지연 시간을 더욱 단축한다.

기존 온디맨드 인덱스에서 DRN으로의 전환은 Pinecone API를 통해 데이터 이동이나 마이그레이션 번거로움 없이 수행 가능하다.

P99 지연 시간(P99 Latency): — 전체 요청 중 가장 느린 1%의 응답 시간을 의미한다. 시스템의 최악의 상황에서도 사용자 경험이 어떻게 유지되는지 판단하는 중요한 성능 지표이다.
샤드(Shard): — 대규모 데이터베이스를 여러 개의 작은 단위로 나누어 저장하는 방식이다. 각 샤드는 독립적인 저장 공간을 가지며, 데이터가 늘어날 때 샤드를 추가하여 용량을 확장한다.
레플리카(Replica): — 데이터의 복사본을 유지하는 노드이다. 동일한 데이터를 여러 노드에 복제하여 읽기 요청을 분산 처리함으로써 시스템의 전체적인 처리량(QPS)과 가용성을 높인다.
초당 쿼리 수(QPS): — 시스템이 1초 동안 처리할 수 있는 검색 또는 요청의 개수이다. 시스템의 처리 용량과 성능을 나타내는 핵심적인 수치이다.
노이지 네이버(Noisy Neighbor): — 클라우드와 같은 공유 인프라 환경에서 인접한 다른 사용자의 과도한 자원 사용으로 인해 자신의 서비스 성능이 저하되는 현상이다. 전용 리소스를 할당받아 이를 방지할 수 있다.