AI 에이전트 시대를 위한 합성 데이터 생성의 산업화와 대규모 컴퓨팅 요구사항

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

과거의 합성 데이터는 부족한 데이터를 보충하는 수준이었으나, 현대의 AI 에이전트 학습을 위해서는 복잡한 추론 과정과 도구 사용이 포함된 고품질 데이터가 필수적이다. 이러한 데이터 생성은 단순한 모델 호출을 넘어 다단계 에이전트 워크플로, 실시간 코드 실행 검증, 대규모 중복 제거 과정을 포함하며 '산업적 규모'의 컴퓨팅 부하를 발생시킨다. 메타의 Matrix와 같은 시스템은 분산 컴퓨팅 프레임워크를 활용해 이러한 '데이터 공장'을 구현하고 있으며, 이는 AI 인프라 현대화의 핵심 동력이 되고 있다. 결국 합성 데이터는 일회성 작업이 아닌, 모델 생애 주기 전반에 걸쳐 지속되는 상시 가동 인프라로 자리 잡고 있다.

배경

LLM 추론 및 파인튜닝 기본 지식, 분산 컴퓨팅 프레임워크(Ray 등)에 대한 이해, AI 에이전트 아키텍처 개념

대상 독자

AI 인프라 엔지니어 및 에이전트 시스템 개발자

의미 / 영향

합성 데이터 생성이 단순한 데이터 보강 도구에서 핵심적인 AI 인프라 구성 요소로 격상되었다. 이는 GPU 위주의 인프라 투자를 넘어 분산 컴퓨팅과 실시간 검증 환경을 포함한 종합적인 시스템 엔지니어링 역량의 중요성을 시사한다.

섹션별 상세

합성 데이터의 단위가 단순한 질의응답에서 복잡한 추론 경로(Reasoning Traces)와 다단계 워크플로로 확장되면서 생성 비용이 급격히 상승했다. 모델이 자신의 사고 과정을 단계별로 기록하는 추론 트레이스는 단일 예제당 수천 개의 토큰을 소모하며, 이는 기존 방식 대비 연산량을 10~20배 이상 증가시킨다. 에이전트가 스스로 오류를 수정하고 작업을 완수하는 과정을 담기 위해서는 단순 응답보다 훨씬 긴 시퀀스의 생성이 필요하다.

고해상도 데이터 생성 시 발생하는 저장소 문제와 학습 병목 사이의 딜레마를 표현한 이미지이다. — Diagram의료용 3D 이미지와 같은 고충실도 데이터 생성 시, 미리 생성하여 저장할 때의 저장 공간 문제와 온디맨드로 생성할 때의 학습 속도 저하 사이의 선택 문제를 시각화한다. 이는 고성능 생성 모델이 개별 샘플당 비용을 높이는 원인임을 보여준다.

하나의 고품질 데이터를 얻기 위해 페르소나 설정, 내용 생성, 톤 정제 등 역할을 분담한 여러 에이전트가 협업하는 오케스트레이션 구조가 일반화되었다. 이는 단순한 모델 호출을 넘어 수백만 건의 추론 작업을 관리하고 추적해야 하는 복잡한 분산 처리 워크로드를 형성한다. 고객 지원이나 연구 보조 에이전트를 위한 데이터 생성은 이제 정교한 스케줄링이 필요한 독립적인 인프라 서비스의 성격을 띤다.

데이터 생성기 아래의 오케스트레이션 레이어가 다양한 외부 도구와 상호작용하는 구조를 보여주는 다이어그램이다. — DiagramAPI 호출, DB 연동, 실행 환경 등에서 발생하는 지연 시간, 타임아웃, 상태 체크 등을 관리하는 복잡한 구조를 설명한다. 이러한 오케스트레이션이 대규모 데이터 생성의 핵심 엔지니어링 요소임을 강조한다.

생성된 데이터의 신뢰성을 확보하기 위해 'LLM-as-a-judge' 방식의 단계별 검증이 도입되었으며, 이는 생성 작업보다 더 많은 추론 부하를 유발하기도 한다. 20단계의 작업이 포함된 데이터 하나를 검증하기 위해 50번 이상의 추가 AI 연산이 수행되는 등 품질 관리가 그 자체로 거대한 워크로드가 되었다. 초기 단계의 작은 오류가 전체 데이터를 무용지물로 만드는 것을 방지하기 위해 실시간 판독 시스템 운영은 필수적이다.

전통적인 최종 단계 검증과 현재의 베스트 프랙티스인 단계별(Turn-level) 검증 방식을 비교한 다이어그램이다. — Diagram단계별 검증이 컴퓨팅 자원을 훨씬 많이 소모하지만, 역할 이탈이나 사실 관계 오류를 조기에 발견할 수 있음을 보여준다. 이를 통해 검증 작업이 대규모 추론 워크로드로 변모했음을 설명한다.

에이전트의 도구 사용 능력을 학습시키기 위해 샌드박스 환경에서 실제 코드를 실행하고 API 응답을 확인하는 실시간 검증 프로세스가 필수적으로 포함된다. 이는 GPU 연산 외에도 수천 개의 격리된 컨테이너를 동시에 운영하기 위한 막대한 CPU와 메모리 자원을 요구한다. 웹 브라우징이나 엔터프라이즈 소프트웨어 사용을 모방하기 위해 실제 가상 머신과 브라우저 엔진을 구동하는 비용은 데이터 스크립트 운영 수준을 넘어선다.

대규모 데이터 생성 시 다양성을 유지하기 위해 임베딩 모델과 클러스터링을 활용한 고도화된 중복 제거 파이프라인이 운영되며, 이는 상당한 컴퓨팅 자원을 소모한다. 생성된 수많은 후보 데이터 중 유의미한 것만 골라내기 위해 대규모 임베딩 실행과 클러스터링 연산이 반복적으로 수행된다. 엔터프라이즈 환경에서 다양한 부서와 페르소나를 대응하기 위한 데이터 다양성 확보는 시스템의 주요 병목 지점이자 비용 발생 원인이다.

메타의 Matrix 시스템은 SLURM, Ray, Apptainer 기반의 오픈소스 스택을 활용하여 12,000개 이상의 작업을 동시에 처리하는 분산 데이터 공장 아키텍처를 채택했다. 이 시스템은 중앙 제어 장치 없이 각 작업이 독립적으로 진행되도록 설계되어 대규모 배치 작업 시 발생하는 유휴 시간을 최소화한다. 4시간 만에 20억 개의 토큰을 생성하고 1,500개의 컨테이너를 동시 실행하여 도구 사용의 정확성을 검증하는 성능을 입증했다.

이미지 분석

Diagram
모델 아키텍처 변화, 품질 보증 오버헤드, 인프라 요구사항 등 5가지 핵심 영역으로 분류하여 합성 데이터 생성의 복잡성을 시각화한다. 각 영역이 왜 산업적 규모의 컴퓨팅을 요구하는지 구체적인 근거를 제시한다.
합성 데이터 생성이 대규모 컴퓨팅을 필요로 하는 이유를 정리한 마인드맵이다.

실무 Takeaway

에이전트용 합성 데이터 파이프라인 구축 시 GPU 기반의 모델 추론뿐만 아니라 코드 실행을 위한 CPU 및 메모리 자원의 병목 현상을 사전에 고려해야 한다.
데이터의 품질을 보장하기 위해 최종 결과물만 검사하는 방식 대신, 각 단계별로 LLM 판독기나 실행 환경을 통한 실시간 검증 루프를 설계해야 한다.
Ray나 Kubernetes와 같은 분산 컴퓨팅 도구를 활용하여 생성, 검증, 임베딩, 저장소 워크로드를 독립적으로 확장할 수 있는 유연한 인프라 구조를 채택해야 한다.