AI 모델 개발 비용 분석: 최종 학습은 전체 R&D 컴퓨팅 예산의 일부일 뿐이다

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

AI 기업의 컴퓨팅 자원 활용은 최종 모델을 생성하는 '최종 학습'보다 실험과 데이터 생성 등 'R&D 탐색' 과정에 훨씬 더 많은 비중을 할애한다. Epoch AI가 OpenAI, MiniMax, Z.ai의 재무 데이터를 분석한 결과, 최종 학습 비용은 전체 R&D 컴퓨팅 지출의 소수에 불과한 것으로 나타났다. 구체적으로 OpenAI는 약 9.6%, MiniMax는 22.6%, Z.ai는 12.3%만이 최종 학습에 사용됐다. 이는 선도 모델을 복제하려는 후발 주자가 실험 비용을 줄여 더 효율적으로 추격할 수 있음을 시사하며, AI 개발 비용의 실질적 구조를 이해하는 데 중요한 지표를 제공한다.

배경

FLOP(부동 소수점 연산)의 개념, GPU 인프라 비용 구조에 대한 기본 이해, 지식 증류(Knowledge Distillation) 기법의 원리

대상 독자

AI 전략 기획자, ML 인프라 엔지니어, AI 스타트업 창업자 및 투자자

의미 / 영향

이 분석은 AI 모델 개발의 진입 장벽이 단순히 '최종 학습 비용'에만 있는 것이 아니라 막대한 '탐색 비용'에 있음을 보여줍니다. 후발 주자들이 선도 모델의 성과를 학습하여 실험 단계를 건너뛸 수 있다면, 선도 기업과의 격차를 예상보다 적은 비용으로 빠르게 좁힐 수 있는 기회가 존재함을 시사합니다.

섹션별 상세

AI 모델 개발 과정에서 이름이 붙여진 최종 모델을 만드는 과정은 전체 R&D의 마지막 단계일 뿐이다. 그 이전 단계에서 기업들은 다양한 규모의 실험, 합성 데이터 생성, 아이디어 검증, 그리고 출시되지 않는 모델 학습에 막대한 컴퓨팅 자원을 소모한다. OpenAI의 2024년 사례를 보면 전체 50억 달러의 R&D 컴퓨팅 지출 중 최종 학습에는 약 10%인 5억 달러만 투입됐다. 이는 모델 개발의 실질적 비용이 단순히 최종 학습 규모로만 판단될 수 없음을 의미한다.

중국 AI 기업인 MiniMax와 Z.ai의 IPO 공시 자료를 통해 이와 같은 패턴이 규모와 국가에 상관없이 보편적임이 확인됐다. MiniMax는 약 22.6%, Z.ai는 약 12.3%의 컴퓨팅 지출을 최종 학습에 할당했으며, 이는 OpenAI의 수치와 유사한 경향을 보인다. 분석을 위해 Epoch AI는 IPO 문서의 재무 데이터와 자체 모델 데이터베이스를 결합하여 FLOP을 달러 가치로 환산했다. 이를 통해 선도 기업뿐만 아니라 신생 기업들도 R&D 탐색에 대부분의 자원을 쓴다는 사실이 입증됐다.

text

Cost [USD] = (Training Compute [FLOP] / (GPU peak FLOP/s * MFU * 3600)) * Price/GPU hour

모델의 학습 연산량(FLOP)을 실제 지출 비용(USD)으로 환산하기 위해 사용된 핵심 수식

OpenAI, MiniMax, Z.ai 세 기업의 R&D 컴퓨팅 지출 대비 최종 학습 비용 비중을 비교한 막대 그래프 — Chart모든 분석 대상 기업에서 최종 학습이 차지하는 비중이 전체 R&D 컴퓨팅 예산의 25% 미만임을 시각적으로 보여줍니다. 특히 OpenAI의 비중이 9.6%로 가장 낮으며, 이는 선도 기업일수록 탐색적 실험에 더 많은 자원을 투입한다는 본문의 주장을 뒷받침합니다.

프런티어 기업과 후발 기업 간의 R&D 컴퓨팅 할당 비율 차이는 '추격 성장' 이론을 뒷받침할 가능성이 있다. 이론적으로 후발 주자는 선도 기업의 공개된 논문이나 모델 행동을 분석하여 시행착오를 줄이고 실험 비용을 절감할 수 있다. 실제로 MiniMax는 Anthropic의 Claude 모델을 대상으로 대규모 지식 증류 캠페인을 진행한 것으로 알려졌으며, 이는 상대적으로 높은 최종 학습 비중(22.6%)과 일치한다. 다만 Z.ai의 사례는 이와 달라 아직은 데이터 포인트가 부족하여 확정적인 결론을 내리기는 어렵다.

실무 Takeaway

AI 모델 개발 예산을 책정할 때 최종 학습 서버 비용 외에도 실험 및 데이터 준비를 위한 R&D 컴퓨팅 비용을 최소 5~10배 이상 확보해야 한다.
후발 주자는 선도 모델의 벤치마크와 방법론을 벤치마킹하거나 지식 증류 기법을 활용함으로써 R&D 탐색 비용을 획기적으로 낮추고 학습 효율을 높일 수 있다.
컴퓨팅 효율성 지표인 MFU는 실험 단계에서 낮고 최종 학습에서 높게 나타나므로, 실제 연산량(FLOP)과 지출 비용 간의 차이를 고려한 자원 계획이 필요하다.

언급된 리소스

문서Epoch AI Models Database

GitHubEpoch AI GitHub Repository (model_flop.md)