챕터별 상세
ChatGPT의 등장과 3단계 학습 프로세스
2022년 11월 ChatGPT 출시로 AI 대중화 시대가 시작되었다. 현대적 LLM 학습은 Pre-training, Supervised Fine-tuning, RLHF의 3단계로 구성된다. Pre-training 단계의 모델은 단순한 문서 완성기(Document Completer)에 불과하지만, RLHF를 통해 인간의 선호도에 부합하고 안전한 답변을 생성하는 조력자로 변모한다. 이 과정은 현대 AI 모델 구축의 표준 청사진이 되었다.
LLM 경쟁의 서막과 스케일링 법칙
GPT-4, Llama, Claude, Bard 등 주요 모델들이 출시되며 본격적인 LLM 경쟁이 시작되었다. OpenAI 연구진이 발견한 스케일링 법칙(Scaling Laws)에 따라 파라미터 수, 데이터 양, 연산량을 늘릴수록 모델 성능이 로그 스케일로 향상된다는 점이 확인되었다. 이 법칙은 기업들이 GPU 인프라와 데이터 확보에 막대한 투자를 하게 만든 결정적인 기술적 근거가 되었다. 결과적으로 NVIDIA는 업계에서 가장 가치 있는 기업 중 하나로 성장했다.
할루시네이션 극복을 위한 RAG와 스캐폴딩
LLM의 고질적인 문제인 할루시네이션을 해결하기 위해 모델 외부 구조인 스캐폴딩(Scaffolding)이 도입되었다. 대표적인 기법인 RAG(검색 증강 생성)는 사용자 질문과 관련된 최신 문서를 벡터 데이터베이스에서 찾아 컨텍스트로 주입한다. 이를 통해 모델은 학습 데이터에 없는 최신 정보나 특정 도메인 지식에 기반한 정확한 답변을 생성한다. 이 시기에 LangChain과 LlamaIndex 같은 프레임워크가 개발자들 사이에서 필수 도구로 부상했다.
text
Think step by step모델의 추론 능력을 향상시키기 위해 사용되는 가장 기본적인 Chain-of-Thought 프롬프트 예시
컨텍스트 윈도우의 확장과 멀티모달의 진화
초기 모델의 짧은 컨텍스트 윈도우(8k~32k)가 128k 이상으로 확장되며 수백 페이지의 문서를 한 번에 처리할 수 있게 되었다. 또한 텍스트뿐만 아니라 이미지, 오디오를 동시에 처리하는 멀티모달 모델(GPT-4V, GPT-4o)이 등장했다. 특히 네이티브 멀티모달 설계는 별도의 어댑터 없이 여러 모달리티를 통합 처리하여 추론 속도를 높이고 비용을 절감하는 효과를 가져왔다. 이제 대부분의 상용 모델은 텍스트와 이미지를 기본적으로 지원한다.
추론 모델과 테스트 시간 연산의 패러다임
OpenAI o1 모델의 등장으로 '생각하는 AI'인 추론 모델 시대가 열렸다. 이는 학습 단계의 연산뿐만 아니라 답변 생성 시 더 많은 토큰을 생성하며 고민하는 '테스트 시간 연산(Test-time compute)'이 성능을 높인다는 새로운 패러다임을 제시했다. 모델은 답변 전 내부적인 CoT 과정을 거치며 스스로 오류를 수정하고 최적의 경로를 탐색한다. 이 방식은 특히 수학, 코딩, 과학적 추론 분야에서 기존 모델을 압도하는 성능을 보여주었다.
DeepSeek-R1과 강화학습의 새로운 지평
DeepSeek-R1은 o1의 추론 능력을 오픈 소스 수준에서 재현하며 강화학습(RL)의 중요성을 입증했다. 인간의 주관적 선호도에 의존하는 RLHF와 달리, 수학이나 코딩처럼 정답이 명확한 작업에서 모델이 스스로 시행착오를 겪으며 학습하는 방식이 적용되었다. 학습이 진행될수록 모델의 추론 과정(CoT) 길이가 자연스럽게 늘어나며 성능이 향상되는 현상이 관찰되었다. 이는 AI 학습의 병목이었던 인간 라벨링의 한계를 극복할 수 있는 가능성을 보여주었다.
도구 사용(Tool Calling)과 MCP 프로토콜
LLM이 외부 도구를 호출하는 능력이 정교해지며 실질적인 업무 수행이 가능해졌다. 구조화된 출력(JSON) 지원과 추론 모델의 결합으로 모델은 복잡한 작업 계획을 수립하고 적절한 도구를 선택하여 실행한다. Anthropic이 발표한 MCP(Model Context Protocol)는 다양한 앱과 데이터 소스를 AI 모델에 연결하는 표준 인터페이스 역할을 한다. 이를 통해 개발자는 특정 모델에 종속되지 않고 다양한 도구를 유기적으로 연결한 에이전트 시스템을 구축할 수 있다.
AI 에이전트와 코딩 에이전트의 시대
2025년은 AI 에이전트가 실무에 본격 투입되는 원년이다. 특히 Claude Code와 같은 코딩 에이전트는 코드베이스를 직접 수정하고 실행하며 실질적인 경제적 가치를 창출하고 있다. 에이전트는 단일 모델을 넘어 여러 에이전트가 병렬로 작동하거나 서브 에이전트를 생성하여 복잡한 과업을 분담하는 방향으로 확장되고 있다. 이러한 시스템은 컨텍스트 윈도우 관리와 병렬 처리를 통해 대규모 소프트웨어 개발 프로젝트를 자율적으로 수행한다.
용어 해설
- 인간 피드백 기반 강화학습(RLHF)
- — 언어 모델이 인간의 의도와 가치관에 부합하는 답변을 생성하도록 인간의 피드백을 사용하여 모델을 미세 조정하는 기법이다. 모델이 생성한 여러 답변 중 인간이 선호하는 것에 높은 보상을 주어 학습시키며, 이를 통해 모델은 단순한 텍스트 완성을 넘어 유용한 조력자로 기능하게 된다.
- 스케일링 법칙(Scaling Laws)
- — 모델의 파라미터 수, 학습 데이터의 양, 그리고 학습에 투입되는 연산량이 증가함에 따라 모델의 성능(Loss)이 예측 가능한 로그 스케일로 향상된다는 법칙이다. 이 법칙은 AI 연구자들이 대규모 자본을 투입하여 모델의 크기를 키우는 '거대 모델' 경쟁의 이론적 근거가 되었다.
- 테스트 시간 연산(Test-time Compute)
- — 모델이 답변을 생성하는 시점(추론 시점)에 더 많은 연산 자원을 할당하여 답변의 품질을 높이는 전략이다. 모델이 즉각적으로 답변을 내놓는 대신 내부적으로 여러 단계의 추론 과정을 거치거나 다양한 경로를 탐색하게 함으로써 복잡한 문제 해결 능력을 극대화한다.
- 생각의 사슬(CoT)
- — 모델이 복잡한 질문에 답하기 전 논리적인 중간 추론 단계를 거치도록 유도하는 프롬프팅 기법이다. '단계별로 생각해보자'와 같은 지시를 통해 모델의 논리적 오류를 줄이고 수학적 문제나 코딩 작업에서 훨씬 높은 정확도를 얻을 수 있다.
- 모델 컨텍스트 프로토콜(MCP)
- — AI 모델이 외부 데이터 소스나 도구와 통신할 때 사용하는 표준화된 인터페이스 프로토콜이다. Anthropic이 제안한 이 규격은 다양한 애플리케이션과 AI 모델 간의 연결을 USB-C 포트처럼 표준화하여 에이전트 시스템 구축의 복잡성을 획기적으로 낮춘다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2025. 12. 08.수집 2026. 02. 21.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
