에이전트 AI 시스템은 한계 토큰 할당 경제로 설계되어야 한다

현재 에이전트 AI 시스템은 라우팅, 실행, 서빙, 학습 단계가 서로 분절되어 설계되어 있어 전체적인 자원 낭비가 발생한다. 이 논문은 미시경제학의 한계 분석을 도입하여 토큰 소비의 비용과 위험, 지연 시간을 통합 관리함으로써 시스템 전체의 효율성을 극대화하는 새로운 설계 프레임워크를 제시한다.

기존의 LLM 시스템은 텍스트를 생성하는 '채팅' 모델을 기준으로 설계되어 토큰을 단순히 텍스트의 단위로만 취급한다. 하지만 에이전트 환경에서 토큰은 실제 행동을 유발하고, 인프라 자원을 점유하며, 미래의 학습 데이터가 되는 다층적인 경제적 가치를 지닌다. 현재의 시스템은 라우터가 비용만 줄이려 하거나 서빙 스택이 처리량만 높이려 하는 등 각 계층이 국소적으로만 최적화되어 있다.

이 논문은 미시경제학의 한계 효용 개념을 토큰 할당에 적용한다. 예를 들어, 저렴한 모델을 선택해 비용을 아꼈더라도 그 모델이 실수를 해서 에이전트가 이를 수정하기 위해 더 많은 검증 토큰을 쓰게 된다면 전체 시스템 관점에서는 손해이다. 즉, 다음 토큰 하나를 어디에 쓸 것인지 결정할 때 그 토큰이 가져올 품질 향상(Marginal Quality)과 그로 인한 비용, 지연 시간, 그리고 잘못된 행동으로 인한 위험(Risk)을 하나의 방정식으로 통합하여 계산해야 한다.

결과적으로 에이전트 시스템은 단순한 소프트웨어 스택이 아니라, 각 계층이 공통된 '토큰 가격'을 공유하고 소통하는 하나의 경제 체제로 동작해야 한다. 이를 통해 국소적 최적화가 전체 시스템의 비효율로 이어지는 문제를 해결하고, 자원을 가장 가치 있는 작업에 우선적으로 배분할 수 있게 된다.

에이전트 시스템의 4개 계층(라우팅, 에이전트 정책, 서빙, 학습)을 수직적으로 통합하는 단일 최적화 방정식 i* = arg max [V ΔQi - ΔCi - λ ΔLi - ρ ΔRi]를 정의한다. 여기서 V는 작업 가치, ΔQi는 품질 기여도, ΔCi는 계산 비용, ΔLi는 지연 시간, ΔRi는 위험도를 의미한다.

라우팅 계층에서는 사용자의 숨겨진 의도(V)를 파악하여 최적의 모델을 매칭하는 스크리닝 메커니즘으로 동작한다. 에이전트 계층은 사용자와의 주종 관계(Principal-Agent) 계약으로 해석하여, 인간의 개입 비용과 에이전트의 자율적 행동에 따른 위험 비용을 저울질하여 토큰을 배분한다.

서빙 계층은 Prefill, Decode, KV 캐시 자원을 이질적인 자원으로 취급하여 지연 시간 감소분 대비 비용을 균등화하는 생산 시스템으로 모델링한다. 마지막으로 학습 계층은 현재 소비되는 토큰을 미래의 모델 성능 향상을 위한 자본 투자로 간주하여, 강화학습(RL)의 롤아웃과 업데이트 토큰 할당을 최적화한다.

이 논문은 이론적 프레임워크를 제시하는 포지션 페이퍼로, 수치적 실험 결과 대신 경제 모델을 통한 실패 사례 분석을 제공한다. 구체적으로, 라우터가 고가치 작업을 저렴한 모델로 잘못 배정했을 때 발생하는 '오버 라우팅' 비용이 하위 계층으로 전파되어 전체 시스템 비용을 5배 이상 증가시킬 수 있음을 수치 예시로 보였다.

또한, 토큰당 고정 가격을 책정하는 현재의 API 방식이 긴 컨텍스트를 사용하는 사용자에게 과도한 외부 효과(지연 시간 정체)를 유발함을 지적했다. 이를 해결하기 위해 혼잡 통행료(Congestion Pricing) 개념을 도입한 서빙 스케줄러가 단순 선입선출(FCFS) 방식보다 파레토 효율적임을 이론적으로 도출했다.

논문은 에이전트 시스템의 각 단계를 미시경제학의 고전적 모델과 연결한다. 라우팅은 Spence의 신호 발송(Signaling) 및 스크리닝 모델로, 에이전트 자율성은 도덕적 해이를 다루는 위임 모델로, 서빙은 다단계 생산 함수로, RL 학습은 솔로우(Solow)의 자본 축적 모델로 치환하여 분석한다.

핵심 수학적 기반은 KKT(Karush-Kuhn-Tucker) 조건을 활용한 라그랑주 승수법이다. 시스템이 예산, 지연 시간(SLA), 위험 허용 범위라는 제약 조건 하에서 작업 가치를 극대화할 때, 각 제약 조건의 라그랑주 승수가 곧 토큰의 '그림자 가격'이 된다. 이 가격 정보가 모든 계층에 공유될 때 비로소 전체 최적화가 가능해짐을 증명한다.

이 프레임워크는 계산 비용, 지연 시간, 위험을 모두 달러 단위의 단일 가치로 환산할 수 있다고 가정하는데, 이는 실제 물리적 제약이나 규제 환경에서 복잡한 우선순위 판단이 필요한 경우 한계가 있을 수 있다. 또한, 작업의 가치(V)가 즉각적으로 관찰 가능하다는 가정도 장기적인 연구나 복잡한 소프트웨어 공학 작업에서는 적용하기 어려울 수 있다.