구글, 소비자용 노트북에서 구동 가능한 Gemma 4 12B 모델 공개

섹션별 상세

기존 Gemma 4 라인업은 모바일 최적화 모델과 대규모 모델로 양분되어 중간 규모의 선택지가 부족했다.

새로 출시된 Gemma 4 12B는 120억 개의 파라미터를 갖추어 모바일 버전보다 높은 성능을 제공하면서도 대규모 모델보다 가볍다.

16GB의 시스템 RAM이나 VRAM을 탑재한 일반 소비자용 노트북에서 원활하게 구동할 수 있도록 설계됐다.

근거

16GB의 시스템 RAM 또는 VRAM을 갖춘 일반 소비자용 노트북에서 구동 가능하다. — 본문 중반부, 12B 모델의 하드웨어 요구 사양 언급 부분

26B MoE 모델 대비 메모리 점유율은 절반 수준이지만 벤치마크 성능은 거의 대등한 수준을 유지한다.

대규모 언어 모델(LLM): — 방대한 텍스트 데이터를 학습하여 인간과 유사한 언어 이해 및 생성 능력을 갖춘 AI 모델. 최근에는 로컬 환경에서 구동 가능한 경량화 모델 연구가 활발하다.
전문가 혼합(MoE): — 모델 전체를 활성화하지 않고 입력에 따라 필요한 일부 파라미터(전문가)만 선택적으로 사용하여 연산 효율을 높이는 아키텍처. 추론 속도와 메모리 효율을 동시에 개선한다.
비디오 램(VRAM): — GPU가 그래픽 데이터나 AI 모델 가중치를 빠르게 처리하기 위해 사용하는 전용 메모리. 로컬 LLM 구동 시 모델 파라미터를 로드하는 데 필수적이다.