바리스 굴테킨: 기업 데이터를 이해하는 에이전트 - 엔터프라이즈 AI의 다음 단계

섹션별 상세

00:00

Snowflake AI의 진화와 철학

Snowflake는 단순한 클라우드 데이터 저장소에서 AI 실행 플랫폼으로 진화했다. 바리스 굴테킨은 데이터를 외부 AI 서비스로 이동시키는 방식이 보안 리스크와 높은 비용을 초래한다고 지적했다. 이에 따라 Snowflake는 데이터가 저장된 거버넌스 경계 내에서 AI 모델을 직접 실행하는 'Bring AI to Data' 철학을 고수하고 있다.

04:29

엔터프라이즈 AI 인프라: Cortex AI

Snowflake의 Cortex AI는 기업이 복잡한 인프라 관리 없이 LLM을 활용할 수 있도록 지원하는 완전 관리형 서비스이다. 사용자는 SQL이나 Python을 통해 Llama 3나 Mistral 같은 오픈 모델을 즉시 호출하여 추론을 수행할 수 있다. 특히 RAG 구현을 위해 벡터 데이터 타입과 검색 기능을 플랫폼 내에 통합하여 데이터 파이프라인의 복잡성을 제거했다.

Cortex AI는 Snowflake 플랫폼 내에서 제공되는 AI 서비스 모음으로, 모델 호스팅과 검색 기능을 포함한다.

12:16

거버넌스와 가드레일을 통한 신뢰 구축

기업용 AI에서 가장 큰 걸림돌은 모델의 환각 현상과 데이터 유출 우려이다. Snowflake는 데이터에 설정된 기존의 역할 기반 액세스 제어(RBAC)를 AI 모델에도 동일하게 적용했다. 또한 입력과 출력 단계에서 부적절한 콘텐츠를 필터링하는 가드레일을 시스템 수준에서 제공하여 신뢰할 수 있는 답변 생성을 보장한다.

RBAC(Role-Based Access Control)는 사용자 역할에 따라 데이터 접근 권한을 차등 부여하는 보안 방식이다.

16:01

엔터프라이즈 에이전트의 구축과 오케스트레이션

단순한 챗봇을 넘어 실제 업무를 수행하는 에이전트가 엔터프라이즈 AI의 다음 단계이다. 에이전트는 기업의 API를 호출하거나 SQL 쿼리를 실행하여 데이터를 분석하고 보고서를 작성하는 등의 복잡한 작업을 수행한다. 바리스 굴테킨은 에이전트가 도구를 선택하고 실행 계획을 세우는 오케스트레이션 능력이 향후 경쟁력의 핵심이 될 것이라고 언급했다.

오케스트레이션은 여러 도구나 모델을 조합하여 하나의 복잡한 목표를 달성하도록 관리하는 프로세스이다.

24:39

추론 능력과 검색 품질의 균형

모델의 자체 지능(Reasoning)도 중요하지만, 기업 환경에서는 정확한 최신 데이터의 검색(Retrieval)이 더 결정적이다. 바리스 굴테킨은 아무리 똑똑한 모델이라도 잘못된 데이터를 참조하면 무용지물이라고 강조했다. 따라서 고품질의 RAG 시스템을 구축하기 위해 데이터 정제와 인덱싱 최적화에 더 많은 리소스를 투입해야 한다는 실무적 조언을 덧붙였다.

RAG(Retrieval-Augmented Generation)는 모델이 학습하지 않은 외부 데이터를 검색하여 답변에 활용하는 기술이다.

주목할 인용

“The core philosophy is bringing AI to the data, not moving data to the AI.”
핵심 철학은 AI를 데이터로 가져오는 것이지, 데이터를 AI로 옮기는 것이 아닙니다.
Baris Gultekin·03:15
데이터 보안과 이동 비용 문제를 해결하기 위한 Snowflake의 접근 방식을 설명하며

“Governance and security are not features; they are the foundation of enterprise AI.”
거버넌스와 보안은 부가 기능이 아니라 엔터프라이즈 AI의 근간입니다.
Baris Gultekin·12:45
기업이 AI를 프로덕션 환경에 도입할 때 가장 먼저 고려해야 할 요소를 강조하며

“The value of an agent is measured by the actions it can take on your behalf.”
에이전트의 가치는 사용자를 대신해 수행할 수 있는 실행력으로 측정됩니다.
Baris Gultekin·18:20
단순 답변 생성을 넘어 실무를 처리하는 에이전트의 역할을 정의하며