본문으로 건너뛰기
Databricks Blog조회 3

Databricks Native Lakehouse Sync 공개 프리뷰: 파이프라인 없는 실시간 데이터 동기화

Databricks가 별도의 ETL 파이프라인이나 추가 컴퓨팅 비용 없이 Lakebase 데이터를 Unity Catalog 관리형 테이블로 자동 복제하는 Native Lakehouse Sync 기능을 발표했습니다.

섹션별 상세

기존의 CDC 스택은 에이전트 중심의 워크로드에서 발생하는 빈번한 브랜칭과 가변적인 쿼리 볼륨을 감당하기 어렵습니다. 기존 방식은 매일 배치 덤프를 수행하거나 복잡한 Debezium 커넥터 및 스트림 처리 엔진을 설정해야 하며, 이는 스키마 드리프트와 다수의 실패 지점을 유발합니다. Native Lakehouse Sync는 이러한 복잡성을 제거하여 에이전트가 짧은 주기로 환경을 생성하고 삭제하는 현대적 개발 흐름을 지원합니다.
전통적인 운영 데이터베이스 중심의 데이터 이동 아키텍처 다이어그램
Diagram운영 데이터베이스에서 BI, 검색 엔진, 피처 파이프라인 등 각 목적지로 데이터가 이동하기 위해 개별적인 배치 또는 CDC 파이프라인이 필요한 복잡한 구조를 보여줍니다. 이는 기사에서 지적하는 '파이프라인 중심 방식'의 한계와 관리 부담을 시각적으로 설명합니다.
Lakebase는 운영 데이터베이스(OLTP)와 분석 플랫폼(OLAP)이 동일한 저비용 클라우드 스토리지를 공유하도록 설계되었습니다. 시스템이 Write-Ahead-Log(WAL)를 직접 해독하여 Unity Catalog 관리형 테이블로 기록하기 때문에 별도의 ETL 파이프라인이 필요하지 않습니다. 이 구조는 데이터 이동 시 발생하는 지연을 최소화하고 인프라 관리 부담을 획기적으로 줄여줍니다.
Native Lakehouse Sync를 적용한 통합 데이터 아키텍처 다이어그램
DiagramLakebase가 Unity Catalog 관리형 테이블과 직접 연결되어, 단일 소스에서 BI, 검색, 피처 서빙 등 모든 하위 워크로드로 데이터가 흐르는 단순화된 구조를 보여줍니다. 파이프라인 없이 데이터베이스 속성으로서의 동기화가 어떻게 아키텍처를 효율화하는지 증명합니다.
Databricks Lakebase 인터페이스 내 Lakehouse sync 설정 화면 스크린샷
Screenshot사용자가 UI에서 'Start sync' 버튼 하나로 PostgreSQL에서 Unity Catalog Delta 테이블로의 CDC 설정을 활성화하는 실제 구현 모습을 보여줍니다. 기사에서 언급한 '1분 이내의 간편한 설정'이라는 주장을 뒷받침하는 실질적인 증거입니다.
근거
  • Native Lakehouse Sync는 별도의 파이프라인이나 외부 컴퓨팅 없이 Lakebase 데이터를 Unity Catalog 관리형 테이블로 복제한다. Summary 및 Today we are excited to announce 섹션
  • 동기화 설정은 스키마 수준의 토글을 통해 1분 이내에 완료되며 Postgres 성능에 영향을 주지 않는다. Sync as a property of Lakebase 섹션
Native Lakehouse Sync는 에이전트의 자율적인 운영을 위해 설계된 핵심 속성들을 포함하고 있습니다. 데이터베이스가 사용되지 않을 때 동기화가 중단되었다가 재개되는 Scale-to-zero 기능과 스키마 변경 사항이 자동으로 전파되는 기능을 갖추고 있습니다. 이를 통해 개발자는 동기화 설정을 수동으로 수정할 필요 없이 데이터 구조 변화에 유연하게 대응할 수 있습니다.
동기화된 데이터는 Unity Catalog 내에서 즉시 레이크하우스의 모든 기능을 활용할 수 있는 상태가 됩니다. Databricks Genie와 같은 AI 에이전트가 즉시 쿼리할 수 있으며, Delta Lake 또는 Apache Iceberg 형식을 지원하는 모든 도구에서 읽기가 가능합니다. 또한 SCD Type 2 이력 관리가 기본으로 적용되어 모든 변경 사항에 대한 감사 로그와 버전 관리가 자동으로 수행됩니다.
근거
  • 모든 삽입, 업데이트, 삭제 작업은 SCD Type 2 이력으로 자동 기록된다. Lakehouse primitives on the destination side 섹션

기술

  • Databricks Lakebase
  • Unity Catalog
  • Delta Lake
  • Apache Iceberg
  • PostgreSQL
  • Databricks Genie

활용 사례

  • 실시간 ML 피처 서빙
  • 에이전트 기반 애플리케이션의 동적 데이터 동기화
  • 메달리온 아키텍처의 Bronze 레이어 구축
  • 자동화된 데이터 감사 및 규정 준수

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 05. 13.수집 2026. 05. 13.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.