이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Notion의 AI 엔지니어링 리드 Sarah Sachs는 AI 모델 공급업체를 경쟁자로 간주하고 특정 모델에 종속되지 않는 'AI Switzerland' 전략을 강조한다. 단순히 최신 frontier 모델을 사용하는 대신, 작업의 복잡도와 비용에 따라 모델을 동적으로 라우팅하고, 간단한 작업에는 CPU 기반의 효율적인 모델을 활용하여 비용을 최적화한다. 데이터 플라이휠과 에이전트 오케스트레이션을 통해 제품 경쟁력을 확보하며, 특정 모델의 가격 정책 변화나 성능 하락 리스크를 방지하는 모델 애그노스틱 구조를 구축한다.
챕터별 상세
00:00
AI 비용과 벤더 락인 문제
매월 모델이 업그레이드될 때마다 토큰 비용이 급증하거나 기존 모델이 빠르게 폐기되는 구조적 문제가 발생한다. AI 모델 공급업체는 자사 제품을 판매하는 경쟁자이기도 하므로, 특정 벤더에 종속되는 것은 전략적 위험을 초래한다.
01:25
AI 계약 협상과 전략
Notion의 AI 엔지니어링 팀은 모델 공급업체를 단순한 파트너가 아닌 경쟁자로 인식하고 계약을 관리한다. 특정 모델에 고착되지 않는 구조를 통해 협상력을 유지하고, 제품 자체의 경쟁력을 강화하는 데 집중한다.
04:46
비용 구조의 장벽
모델 가격 정책의 불확실성과 잦은 변경은 기업의 비용 예측을 어렵게 만드는 구조적 장벽이다. 토큰 이코노믹스에 매몰되기보다 제품의 데이터 플라이휠과 오케스트레이션에 집중하는 것이 장기적인 승리 전략이다.
09:50
모델 라우팅 전략
Notion은 전체 트래픽의 약 75%를 자동 라우팅 시스템을 통해 처리한다. 단순히 가장 비싼 frontier 모델을 사용하는 것이 아니라, 작업의 난이도와 비용 효율성을 고려하여 초당 처리 능력과 비용에 따라 최적의 모델을 동적으로 선택한다.
15:04
오픈 웨이트 모델과 효율화
중간 난이도의 작업에는 오픈 웨이트 모델을 활용하여 비용을 절감한다. 또한, CSV를 PDF로 변환하는 등 LLM이 불필요한 단순 작업에는 GPU 대신 CPU 기반의 효율적인 처리를 적용하여 인프라 비용을 최적화한다.
19:46
Notion 에이전트 데모
Notion 에이전트가 실제 업무를 수행하는 과정을 시연한다. 에이전트는 작업을 스코핑하고, 팀원을 태그하며, 최종적으로 PR을 생성하는 등 복잡한 워크플로를 오케스트레이션한다.
용어 해설
- 모델 애그노스틱(Model Agnostic)
- — 특정 AI 모델이나 벤더에 종속되지 않고, 필요에 따라 모델을 교체하거나 혼합하여 사용할 수 있는 설계 방식. 벤더 락인(Vendor Lock-in)을 방지하고 유연성을 확보하는 데 필수적이다.
- 토큰 이코노믹스(Token Economics)
- — LLM 사용 시 발생하는 토큰 소비량과 그에 따른 비용 구조를 의미한다. 모델 업그레이드 시 토큰 소모가 급증하는 상황에서 비용 효율성을 관리하는 핵심 지표이다.
- 오픈 웨이트 모델(Open Weight Model)
- — 모델의 가중치가 공개되어 직접 호스팅하거나 수정할 수 있는 모델. API 기반의 폐쇄형 모델 대비 비용 절감과 데이터 보안 측면에서 유리하여 중간 난이도 작업에 주로 활용된다.
- 오케스트레이션(Orchestration)
- — 다양한 AI 에이전트나 모델이 협력하여 복잡한 작업을 수행하도록 흐름을 제어하고 관리하는 기술. 작업 할당, 도구 사용, 결과 취합 등을 자동화한다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 07. 24.수집 2026. 07. 24.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
