Granite 4.1 3B SVG 펠리컨 갤러리

섹션별 상세

IBM은 Apache 2.0 라이선스로 3B, 8B, 30B 크기의 Granite 4.1 모델 제품군을 새롭게 출시했다. 이 모델들은 오픈 소스로 공개되어 다양한 환경에서 자유롭게 활용이 가능하다. 특히 소형 모델인 3B 버전은 효율적인 추론이 필요한 환경을 타겟으로 한다.

Unsloth는 Granite 4.1 3B 모델을 21가지의 서로 다른 GGUF 양자화 버전으로 변환하여 공개했다. 파일 크기는 최소 1.2GB에서 최대 6.34GB에 이르며 전체 파일의 합계는 51.3GB에 달한다. 이는 사용자가 하드웨어 자원에 맞춰 최적의 양자화 수준을 선택할 수 있는 폭을 넓혀준다.

근거

Unsloth는 1.2GB에서 6.34GB 사이의 21가지 Granite 4.1 3B GGUF 양자화 변형을 출시했다. — 본문 두 번째 문단 출처

동일한 프롬프트인 '자전거를 타는 펠리컨의 SVG 생성'을 모든 양자화 버전에 입력하여 출력값을 비교했다. 텍스트 기반의 SVG 코드를 생성하게 함으로써 모델의 논리적 구조 이해와 시각적 표현 능력을 동시에 테스트하고자 했다. 하지만 결과물은 대부분 추상적인 도형의 집합에 그쳤다.

실험 결과 모델의 파일 크기와 생성된 이미지의 품질 사이에는 유의미한 패턴이 나타나지 않았다. 가장 작은 모델이 오히려 자전거 형태를 더 잘 묘사하거나 가장 큰 모델이 펠리컨과 유사한 형태를 만드는 등 일관성이 부족했다. 이는 특정 크기 이상의 양자화가 이미지 생성 능력에 결정적인 영향을 주지 못했음을 의미한다.

Granite 4.1 3B 모델의 6가지 양자화 버전이 생성한 SVG 이미지 결과물 비교표 — Screenshot1.2GB부터 1.67GB까지 다양한 크기의 양자화 모델들이 생성한 이미지를 나열하여 보여줍니다. 수치상으로는 모델 크기가 커져도 시각적 품질이 개선되지 않으며, 오히려 가장 작은 모델(#21)이 자전거 형태를 더 명확히 표현하는 역설적인 결과를 시각적으로 증명합니다.

근거

모델 크기와 이미지 품질 사이에는 구별 가능한 패턴이 존재하지 않았다. — 본문 세 번째 문단

용어 해설

양자화(Quantization): — 모델의 가중치를 낮은 정밀도(예: 16비트에서 4비트)로 변환하여 메모리 사용량을 줄이고 추론 속도를 높이는 최적화 기법이다. 모델 크기를 획기적으로 줄여 일반 소비자용 하드웨어에서도 대형 모델을 실행할 수 있게 하지만, 정밀도 손실로 인해 성능 저하가 발생할 수 있다.
GGUF: — llama.cpp 프로젝트에서 개발한 대규모 언어 모델 저장 및 배포용 파일 형식이다. CPU와 GPU 모두에서 효율적인 추론을 지원하며, 모델 메타데이터와 텐서 데이터를 하나의 파일에 포함하여 이식성과 편의성이 높다.
확장 가능 벡터 그래픽(SVG): — XML 기반의 2차원 벡터 그래픽 파일 형식으로, 텍스트 코드로 이미지를 정의한다. LLM이 직접 픽셀을 생성하는 대신 코드를 작성하여 이미지를 그릴 수 있게 하며, 해상도에 관계없이 선명함을 유지하는 특징이 있다.

기술

Granite 4.1
GGUF
Unsloth
IBM

활용 사례

양자화 모델 성능 비교
LLM 기반 SVG 이미지 생성
소형 모델 추론 테스트

언급된 리소스

GitHubunsloth/granite-4.1-3b-GGUF