IBM, AI 모델을 소프트웨어처럼 모듈화하는 '생성형 컴퓨팅'과 Granite 4.1 공개

섹션별 상세

기존 LLM은 모든 기능이 파라미터에 분산되어 있어 특정 작업 변경 시 전체 재학습이나 복잡한 프롬프트가 필요했다.

Granite Libraries는 RAG, 안전성, 핵심 기능 등 특정 작업을 수행하는 어댑터 함수를 제공하여 모델을 모듈화한다.

Granite 4.1 3B 모델에 어댑터를 적용하면 IFEval 정확도가 51%에서 84%로 상승하며, 작은 모델로도 대형 모델 수준의 성능을 구현한다.

Project Granite Switch는 추론 시 필요한 어댑터를 동적으로 전환하는 레이어를 추가하여 메모리 재계산 없이 다단계 워크플로를 가속화한다.

Granite 4.1 모델군은 15조 개의 토큰으로 학습되었으며, Apache 2.0 라이선스로 공개되어 기업의 비용 효율적인 배포를 돕는다.

어댑터(Adapter): — 모델의 특정 기능을 수행하도록 학습된 소형 모듈. 전체 모델을 재학습하지 않고도 특정 작업(RAG, 안전성 검사 등)에 맞게 모델의 동작을 변경할 수 있게 하여 효율성을 높인다.
생성형 컴퓨팅(Generative Computing): — AI 모델을 소프트웨어 라이브러리처럼 모듈화하여 재사용 가능한 빌딩 블록으로 구성하는 접근 방식. 복잡한 AI 시스템을 독립적인 기능 단위로 분리하여 개발 및 유지보수 효율을 극대화한다.
검색 증강 생성(RAG): — 외부 데이터베이스에서 관련 정보를 검색하여 모델의 답변에 포함하는 기술. Granite Libraries는 이 과정에서 쿼리 재작성, 답변 가능성 평가 등을 수행하는 어댑터를 제공한다.