2025년 LLM 현황 보고서: 발전, 문제점 그리고 미래 예측

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

2025년은 LLM의 단순한 규모 확장을 넘어 추론 능력과 효율성에 집중한 한 해였다. DeepSeek R1의 등장은 강화학습을 통한 추론 모델 개발이 예상보다 훨씬 저렴한 비용으로 가능하다는 것을 증명하며 업계에 큰 충격을 주었다. RLVR과 GRPO 같은 새로운 포스트 트레이닝 기법이 주류로 자리 잡았으며, 모델 아키텍처는 MoE와 효율적인 어텐션 메커니즘으로 수렴했다. 또한 벤치마크 점수 지상주의인 '벤치맥싱' 현상에 대한 경계와 함께, 도구 사용(Tool Use) 및 추론 시간 스케일링이 실질적인 성능 향상의 핵심 동력으로 부상했다.

배경

LLM 기본 구조(Transformer), 강화학습 기초 개념(RLHF), 파인튜닝 지식

대상 독자

AI 연구자, LLM 서비스 개발자, 기술 전략 기획자

의미 / 영향

고성능 LLM 개발 비용이 급격히 낮아짐에 따라 빅테크 외의 기업들도 자체적인 추론 모델을 보유할 가능성이 커졌다. 또한 벤치마크의 신뢰도 하락으로 인해 실제 도메인에서의 성능 검증이 더욱 중요해질 것이다.

섹션별 상세

DeepSeek R1은 강화학습(RL)을 통해 모델이 스스로 사고 과정을 생성하는 '추론 모델'의 대중화를 이끌었다. 특히 DeepSeek-V3 학습에 약 558만 달러, R1 추가 학습에 29만 달러라는 파격적으로 낮은 비용을 제시하며 고성능 모델 개발의 경제적 장벽을 허물었다.

일반 LLM과 추론 LLM의 답변 방식 차이를 보여주는 다이어그램. — Diagram추론 모델이 단순히 정답만 내놓는 것이 아니라 'Chain-of-Thought' 과정을 거쳐 단계별로 사고하는 과정을 시각화하여 설명한다.

DeepSeek-V3 모델의 단계별 학습 비용 표. — Chart671B 파라미터 모델을 학습하는 데 약 558만 달러가 소요되었음을 수치로 보여주며, 기존 예상보다 훨씬 저렴한 비용을 입증한다.

DeepSeek-R1의 추가 학습 비용 상세 표. — ChartV3 모델 위에 추론 능력을 입히는 데 단 29.4만 달러의 추가 비용이 들었음을 명시하여 RLVR의 효율성을 강조한다.

포스트 트레이닝 단계에서 RLVR(Verifiable Rewards)과 GRPO 알고리즘이 핵심 기술로 부상했다. 수학이나 코드처럼 정답이 명확한 도메인에서 결정론적인 보상을 제공함으로써, 값비싼 인간 피드백(RLHF) 없이도 모델의 문제 해결 능력을 획기적으로 개선할 수 있게 되었다.

계산기를 활용한 검증 가능한 보상(Verifiable Reward)의 예시. — Infographic모델의 출력을 외부 도구(계산기) 결과와 비교하여 정답 여부를 판단하는 RLVR의 핵심 메커니즘을 설명한다.

모델 아키텍처는 MoE(Mixture-of-Experts)와 효율적인 어텐션 기법(GQA, MLA 등)을 사용하는 방향으로 표준화되었다. Qwen3-Next나 Nemotron 3와 같이 선형 스케일링을 목표로 하는 Gated DeltaNet이나 Mamba-2 레이어를 도입하여 추론 효율성을 극대화하려는 시도가 늘어났다.

LLM 학습 단계별 강화학습 적용 지점을 나타낸 플로우차트. — Diagram프리트레이닝부터 포스트트레이닝, 그리고 추론 모델로 이어지는 기술적 진화 과정을 단계별로 구분하여 보여준다.

단순한 모델 학습을 넘어 추론 시간 스케일링(Inference-time Scaling)과 도구 사용(Tool Use)이 성능 차별화 요소가 되었다. 복잡한 문제 해결을 위해 모델이 더 많은 '생각'을 하도록 유도하거나, 외부 검색 엔진 및 계산기 API를 활용하여 할루시네이션을 줄이는 방식이 보편화되었다.

업계 전반에 벤치마크 점수만을 극대화하려는 '벤치맥싱(Benchmaxxing)' 현상이 심화되며 공개 데이터셋 오염 문제가 대두되었다. 이에 따라 단순한 점수 비교보다는 실제 사용 환경에서의 유용성과 도메인 특화 데이터의 중요성이 더욱 강조되고 있다.

실무 Takeaway

수학이나 코딩 등 정답 확인이 가능한 영역에서는 RLVR과 GRPO를 적용하여 적은 비용으로도 모델의 논리적 추론 능력을 극대화할 수 있다.
모델의 기본 성능을 높이는 것만큼이나 추론 시점에 더 많은 연산을 할당하거나 외부 도구를 연동하는 전략이 실질적인 정확도 향상에 효과적이다.
범용 모델의 성능이 상향 평준화됨에 따라, 기업 고유의 비공개 데이터를 활용한 도메인 특화 포스트 트레이닝이 향후 핵심 경쟁력이 될 것이다.

언급된 리소스

GitHubBuild A Large Language Model (From Scratch) GitHub

GitHubBuild A Reasoning Model (From Scratch) GitHub