주잔나 스타미로프스카: 실시간 라이브 데이터로 작동하는 Pathway의 AI 시스템 내부 분석

섹션별 상세

00:00

AI의 기억력 부재 문제: 그라운드호그 데이 효과

현재의 대규모 언어 모델(LLM)은 새로운 세션이 시작될 때마다 이전의 정보를 잊어버리는 '그라운드호그 데이(Groundhog Day)' 상태에 머물러 있다. 주잔나 스타미로프스카는 모델이 학습된 시점 이후의 실시간 정보를 반영하지 못하는 것이 기업용 AI 도입의 가장 큰 장애물이라고 지적했다. 이를 해결하기 위해 데이터가 발생하는 즉시 AI의 지식 베이스에 통합되는 시스템이 필요하다.

10:30

트랜스포머 아키텍처의 구조적 한계

트랜스포머 아키텍처는 고정된 크기의 컨텍스트 윈도우 내에서만 데이터를 처리하며 외부 세계의 변화를 실시간으로 학습에 반영하지 못하는 구조를 가졌다. 주잔나는 트랜스포머가 어텐션 메커니즘을 통해 관계를 파악하지만, 이는 정적인 스냅샷에 가깝다고 평가했다. 실시간 스트리밍 데이터를 처리하려면 가중치를 매번 재학습하지 않고도 연결망을 업데이트하는 방식이 요구된다.

14:34

Dragon Hatchling: 뇌에서 영감을 얻은 새로운 아키텍처

Pathway는 생물학적 뇌의 작동 방식에서 영감을 얻은 'Dragon Hatchling' 아키텍처를 개발했다. 이 구조는 데이터가 입력되는 즉시 신경망의 연결 강도를 조정하여 새로운 정보를 즉각적으로 '기억'으로 변환한다. 기존 트랜스포머와 달리 스트리밍 방식으로 가중치를 업데이트하며, 이는 실시간 RAG(Retrieval-Augmented Generation) 시스템의 핵심 엔진으로 작동한다.

54:23

실시간 RAG와 할루시네이션 억제

AI의 할루시네이션은 주로 최신 정보의 부재나 잘못된 지식 인출에서 발생한다. Pathway의 시스템은 벡터 데이터베이스와 실시간 데이터 소스를 동기화하여 모델이 항상 가장 최신의 근거 데이터를 참조하도록 강제한다. 주잔나는 데이터 파이프라인의 지연 시간을 밀리초(ms) 단위로 단축함으로써 AI가 허위 정보를 생성할 확률을 유의미하게 낮췄다고 밝혔다.

주목할 인용

“Today's AI is living in a 'Groundhog Day' where it wakes up every morning and forgets everything that happened the day before.”
오늘날의 AI는 매일 아침 깨어나 전날 일어난 모든 일을 잊어버리는 '그라운드호그 데이' 속에 살고 있습니다.
Zuzanna Stamirowska·02:15
트랜스포머 기반 모델이 지속적인 기억을 갖지 못하는 한계를 비유하며

“Memory is not just about storing data; it's about the ability to update connections in real-time as the world changes.”
기억은 단순히 데이터를 저장하는 것이 아니라, 세상이 변함에 따라 실시간으로 연결을 업데이트하는 능력에 관한 것입니다.
Zuzanna Stamirowska·16:40
Pathway가 추구하는 실시간 학습 아키텍처의 철학을 설명하며