본문으로 건너뛰기
LangChain조회 2

박스(Box) CEO 애런 레비가 말하는 기업용 AI 에이전트의 미래와 과제

박스(Box) CEO 애런 레비와 랭체인(LangChain) CEO 해리슨 체이스가 기업 내 AI 에이전트 도입의 기술적 장벽과 해결 방안을 논의한다.

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

기업용 콘텐츠 관리 플랫폼 Box의 CEO 애런 레비는 코딩 에이전트가 성공한 이유로 명확한 구문과 컴파일러라는 피드백 루프를 꼽으며, 지식 노동 분야에서는 이러한 '진실의 근거'가 부족해 도입이 늦어지고 있다고 진단했다. 이를 해결하기 위해 Box는 기업 내 권한 체계와 보안을 유지하면서도 다양한 모델을 유연하게 연결할 수 있는 에이전트 하네스 아키텍처를 구축하고 있다. 특히 MCP와 같은 표준 프로토콜을 통해 에이전트가 헤드리스 방식으로 기업 데이터에 접근함으로써 소프트웨어 사용량이 폭발적으로 증가하는 제번스의 역설이 발생할 것으로 전망했다. 결과적으로 미래의 기업용 AI는 단순한 챗봇을 넘어 무한한 엔지니어링 자원을 가진 지식 노동자를 구현하는 방향으로 진화할 것이다.

챕터별 상세

03:28

코딩 에이전트와 지식 노동 에이전트의 격차 원인

코딩 에이전트는 프로그래밍 언어라는 명확한 구문과 컴파일러라는 즉각적인 피드백 루프가 존재하여 빠르게 발전했다. 반면 일반적인 지식 노동은 모호한 자연어로 이루어지며 결과물의 정답 여부를 판단할 '컴파일러'가 없다는 점이 가장 큰 장벽이다. 코딩은 테스트 케이스를 통해 성공 여부를 검증할 수 있지만, 마케팅 전략이나 법률 검토는 주관적 판단이 개입되어 자동화가 어렵다. 이러한 차이로 인해 개발 도구에서는 에이전트가 활발히 사용되지만 일반 기업 업무에서는 아직 실험 단계에 머물러 있다.

코딩 에이전트가 성공한 핵심 요인은 '결과물의 자동 검증 가능성'에 있다.

07:40

기업 환경에서의 권한 및 보안 문제

AI 에이전트가 기업 데이터를 활용할 때 가장 큰 기술적 난제는 인간 사용자가 가진 복잡한 권한 체계(ACL)를 그대로 상속받아야 한다는 점이다. 에이전트가 특정 문서에 접근할 때 해당 사용자가 읽기 권한이 있는지 실시간으로 확인하지 않으면 심각한 데이터 유출 사고로 이어진다. Box는 수십 년간 구축한 기업용 보안 계층을 에이전트가 우회하지 못하도록 설계했다. 이는 단순한 RAG를 넘어 에이전트가 수행하는 모든 행동에 대해 기업 정책을 강제하는 인프라가 필요함을 의미한다.

ACL(Access Control List)은 파일이나 폴더에 대해 누가 어떤 권한을 가졌는지 정의한 목록이다.

12:05

Box의 에이전트 하네스 아키텍처와 MCP

Box는 기업 콘텐츠를 중심으로 다양한 AI 모델을 안전하게 연결하는 '에이전트 하네스'를 구축했다. 특히 Anthropic이 제안한 MCP(Model Context Protocol)를 도입하여 에이전트가 Box 내부의 파일 시스템과 메타데이터에 표준화된 방식으로 접근하도록 지원한다. 이를 통해 개발자는 특정 모델에 종속되지 않고 Box의 데이터를 에이전트의 컨텍스트로 손쉽게 주입할 수 있다. 결과적으로 기업은 데이터 보안을 유지하면서도 최신 AI 모델의 성능을 즉시 활용할 수 있는 구조를 갖추게 된다.

에이전트 하네스는 AI 모델이 기업 데이터와 안전하게 상호작용할 수 있도록 돕는 중간 제어 계층이다.

17:50

헤드리스 소프트웨어와 제번스의 역설

AI 에이전트가 인간 대신 소프트웨어를 사용하게 되면서 UI가 없는 '헤드리스' 방식의 상호작용이 급증할 것으로 예상된다. 이는 소프트웨어 사용 비용을 낮추어 오히려 전체적인 소프트웨어 소비와 데이터 처리가 폭발적으로 늘어나는 '제번스의 역설'을 초래한다. 과거에는 인간의 클릭 속도가 소프트웨어 사용의 한계였으나, 이제는 API를 통한 에이전트의 자동화된 작업이 그 자리를 대신한다. 기업은 이러한 변화에 대응하기 위해 더 높은 처리량과 효율적인 토큰 관리 전략을 세워야 한다.

제번스의 역설은 효율성 향상이 오히려 수요의 폭발적 증가를 가져온다는 경제학적 개념이다.

24:17

단일 모델 대 다중 모델 하네스의 비용 트레이드오프

기업은 모든 작업에 고성능 대형 모델을 사용하는 대신, 작업의 난이도에 따라 모델을 동적으로 선택하는 전략을 취해야 한다. 단순한 요약이나 데이터 추출은 저비용 모델로 처리하고, 복잡한 추론이 필요한 경우에만 고비용 모델을 호출하는 방식이다. Box는 이러한 토큰 예산(Token Budget) 관리를 자동화하여 기업의 EPS(주당순이익) 압박을 완화하고자 한다. 무분별한 토큰 사용은 비용 문제를 야기하므로, 에이전트 시스템 설계 시 비용 효율적인 라우팅 로직이 필수적이다.

토큰 예산은 AI 모델 사용 시 발생하는 비용을 관리하기 위해 설정한 사용량 한도를 의미한다.

용어 해설

모델 컨텍스트 프로토콜(MCP)
Anthropic이 발표한 오픈 표준으로, AI 에이전트가 다양한 데이터 소스 및 도구와 안전하고 일관되게 상호작용할 수 있도록 연결하는 규약이다. 이를 통해 개발자는 각 모델마다 별도의 통합 로직을 작성할 필요 없이 표준화된 방식으로 데이터를 공급할 수 있다.
제번스의 역설(Jevons Paradox)
기술의 발전으로 특정 자원의 사용 효율이 높아지면 오히려 해당 자원의 전체 소비량이 늘어나는 현상이다. AI 분야에서는 소프트웨어 제작 비용이 낮아짐에 따라 기업 내 소프트웨어와 데이터 소비가 기하급수적으로 증가할 것임을 시사한다.
헤드리스 소프트웨어(Headless Software)
사용자 인터페이스(UI) 없이 백엔드 기능과 데이터만 API를 통해 제공하는 소프트웨어 아키텍처이다. AI 에이전트가 인간 대신 소프트웨어를 조작하게 되면서, 화면 없이 데이터와 로직만 주고받는 방식의 중요성이 커지고 있다.
에이전트 하네스(Agent Harness)
AI 에이전트가 기업 환경에서 안전하고 효율적으로 작동할 수 있도록 감싸는 제어 및 보안 인프라이다. 인증, 권한 관리, 데이터 필터링 등을 담당하여 모델이 기업의 정책을 준수하며 실행되도록 보장한다.

언급된 리소스

AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 06. 29.수집 2026. 06. 29.출처 타입 YOUTUBE

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.