이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
IBM은 기업용 Agent가 복잡한 지시를 따라 정보를 검색하고 도구를 순서대로 호출하며 결과를 검증하도록 Granite 4.2를 3B, 8B, 30B 크기로 출시했습니다. 모델은 Supervised Fine-Tuning 이후 Foundational RL과 Agentic RL, RLHF를 거치고 1 Trillion Tokens의 Synthetic Code, Mid-Training, Speculative Decoding을 결합해 추론과 Coding 및 생성 속도를 높였습니다. 함께 공개된 Granite Speech 5.0 Turbo CTC는 470 Million Parameters와 CTC 구조로 Edge Device Streaming ASR에 맞춰졌으며, 단일 H100 테스트에서 약 12,600 RTFx와 1초당 3시간 음성 전사 성능을 기록했습니다. Granite 4.2는 Apache 2.0 License로 제공되고 Speech 모델은 실시간 전사와 대규모 Call Center 분석 같은 고처리량 업무를 겨냥합니다.
섹션별 상세
IBM은 반응형 Chatbot을 넘어 추론하고 계획하며 도구를 호출하고 결과를 점검하는 기업용 AI Agent 수요에 맞춰 Granite 4.2를 출시했습니다. 3B, 8B, 30B Parameter 크기로 제공되며, 모델 내부의 단계별 추론 기능이 모호하고 여러 절차가 필요한 업무에서 실행 전 선택과 오류 점검을 돕습니다. Granite 4.2는 Codebase 탐색, 다단계 개발, Terminal 작업처럼 실제 Software Engineering Agent가 수행하는 흐름을 겨냥하고, Cloud·On-Premises·Edge 배포와 Apache 2.0 License를 지원합니다.
근거
- Granite 4.2는 3B, 8B, 30B Parameter 크기로 제공되며 기업용 Agent Workflow를 겨냥합니다. — 출시 초반 Granite 4.2 소개 문단의 모델 크기와 목적 설명
Granite 4.2의 Agent 성능은 모델 크기만 키운 결과가 아니라 여러 단계의 학습 구조를 통해 만들어졌습니다. 학습은 Supervised Fine-Tuning에서 시작해 모든 모델에 Foundational RL을 적용하고, 8B와 30B에는 Software Engineering·Terminal Coding·검색 기반 업무를 위한 Agentic RL과 RLHF Alignment를 이어 붙이는 방식입니다. 여기에 IBM의 CodeAlchemy Pipeline으로 만든 Synthetic Code 1 Trillion Tokens, 추론 능력을 높이는 Mid-Training, 생성 속도를 높이는 Speculative Decoding을 결합해 복잡한 작업 처리와 서비스 운영 비용을 함께 고려했습니다.
근거
- 8B와 30B 모델에는 Software Engineering, Terminal Coding, 검색 기반 업무를 위한 Agentic RL 단계가 추가됐습니다. — 새로운 학습 구조 섹션에서 Agentic RL과 RLHF를 설명하는 문단
- IBM의 CodeAlchemy Pipeline으로 Synthetic Code 1 Trillion Tokens를 생성해 학습에 사용했습니다. — Coding과 추론 개선을 위한 두 가지 혁신을 설명하는 문단
Granite 4.2는 기업 업무에서 모델이 애플리케이션을 무작정 실행하지 않고 어떤 도구를 어떤 순서로 사용할지 판단하도록 설계됐습니다. 작은 모델은 높은 처리량이 필요한 Agent 작업을 맡고 큰 모델은 깊은 추론과 복잡한 Coding Workflow에 배치하는 식으로 크기별 역할을 나눌 수 있습니다. IBM은 Hirundo의 Machine Unlearning 기술을 활용해 전체 재학습 없이 Post-Training 이후의 바람직하지 않은 출력을 줄이는 작업도 진행하고 있습니다.
이번 출시에는 470 Million Parameters 규모의 Granite Speech 5.0 Turbo CTC와 5.0 Turbo CTC NC도 포함됐습니다. 두 모델은 LLM Backbone을 제거하고 CTC 방식으로 오디오와 텍스트를 직접 연결해 Laptop·Smartphone 같은 Edge Device에서 Streaming ASR을 처리하도록 설계됐으며, Granite Speech 5.0 Turbo CTC는 단일 H100 GPU 테스트에서 약 12,600 RTFx를 기록해 Hugging Face Open ASR Leaderboard의 당시 속도 선두권 약 6,000보다 높았습니다. Reduced Sampling을 통해 1초에 3시간 분량의 음성을 전사할 수 있어 실시간 Video Chat 전사, 음성 애플리케이션 개발, 대규모 Call Center 데이터 분석에 활용할 수 있고, NC 버전은 제한적 사용 데이터로 학습한 비상업용 모델입니다.
근거
- Granite Speech 5.0 Turbo CTC는 단일 H100 GPU 테스트에서 약 12,600 RTFx를 기록했습니다. — Edge용 Speech Model 섹션의 Hugging Face Open ASR Leaderboard 비교 문단
- Granite Speech 5.0 Turbo CTC는 1초에 3시간 분량의 음성을 전사할 수 있습니다. — Reduced Sampling과 고처리량 전사 성능을 설명하는 문단
용어 해설
- 에이전트형 업무 흐름(Agentic Workflow)
- — AI가 단순히 응답을 생성하는 데 그치지 않고 복잡한 지시를 해석한 뒤 필요한 정보를 검색하고 도구를 선택해 순서대로 실행하며 결과를 검증하는 작업 방식입니다. 모델의 추론과 Tool Calling이 핵심이며 기업용 자동화에 활용됩니다.
- 도구 호출(Tool Calling)
- — 언어 모델이 외부 애플리케이션이나 함수의 사용 여부와 실행 순서를 판단한 뒤 필요한 도구를 호출하는 기능입니다. 복잡한 업무에서는 검색, 코드 실행, 데이터 조회 같은 단계를 모델의 응답과 연결해 실제 작업으로 전환합니다.
- 기초 강화학습(Foundational RL)
- — Granite 4.2의 모든 모델에 적용된 첫 번째 강화학습 단계입니다. 검증 가능한 보상과 보상 모델 평가를 함께 사용해 수학, 과학, Coding, 추론, Tool Calling의 정확성과 고차원적인 품질 신호를 동시에 학습시킵니다.
- 에이전트형 강화학습(Agentic RL)
- — 8B와 30B 모델에 추가된 강화학습 단계로, 기업 환경의 Software Engineering, Terminal Coding, 검색 기반 업무를 학습 대상으로 삼습니다. 실제 업무처럼 여러 단계를 거치는 작업에서 계획 수립과 도구 사용 능력을 높이는 데 초점을 둡니다.
- 연결주의 시간 분류(Connectionist Temporal Classification)
- — 음성 모델이 원시 오디오와 텍스트를 직접 학습하고 음성을 텍스트로 효율적으로 매핑하도록 돕는 방식입니다. Granite Speech 5.0 Turbo CTC 모델에서는 Streaming Audio 처리에 활용되어 빠른 실시간 전사를 가능하게 합니다.
기술
- Granite 4.2
- Granite Speech 5.0 Turbo CTC
- Granite Speech 5.0 Turbo CTC NC
- Supervised Fine-Tuning
- Foundational RL
- Agentic RL
- RLHF
- CodeAlchemy
- Mid-Training
- Speculative Decoding
- Connectionist Temporal Classification
- ASR
- Machine Unlearning
- Apache 2.0
활용 사례
- 기업용 Agent Workflow
- Software Engineering Agent
- Terminal 기반 Coding
- 검색 기반 업무 자동화
- 실시간 Video Chat 전사
- 음성 애플리케이션 개발
- 대규모 Call Center 데이터 전사 및 분석
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 26.수집 2026. 08. 26.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
