TL;DR
Thinking Machines Lab이 공개한 Inkling은 975B 전체 파라미터 가운데 입력별로 41B만 활성화되는 Mixture-of-Experts 기반 멀티모달 모델로서 텍스트·이미지·오디오·비디오를 합쳐 45조 토큰으로 학습되었고 Apache-2.0 라이선스로 배포되어 오픈 웨이트 생태계에 새 후보로 합류했다. 이 모델은 최고 성능을 목표로 하기보다는 Tinker 플랫폼에서의 파인튜닝을 염두에 둔 베이스 모델로 설계되어 멀티모달 능력과 연산 효율성을 결합해 커스터마이징 경로를 제공한다. 다만 모델 카드와 훈련 데이터 문서는 비교적 간결하여 데이터 출처와 전처리·필터링 상세가 부족하고, 이 점이 투명성 평가와 재현 가능한 검증을 제약한다.
섹션별 상세
- Inkling은 Mixture-of-Experts transformer로 전체 파라미터 975B, 활성 파라미터 41B를 갖춘 모델이다. — 본문 첫 문단의 모델 스펙 표기
- Inkling 훈련에는 텍스트·이미지·오디오·비디오를 합쳐 45조 토큰이 사용되었다. — 본문 첫 문단의 훈련 데이터 설명
curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \
-H "Authorization: Bearer $TINKER_API_KEY" \
-H "Content-Type: application/json" \
-d '{ "model": "thinkingmachines/Inkling", "messages": [ {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"} ], "stream": false }'이 코드는 Thinking Machines의 Tinker API에 Inkling 모델을 지정해 SVG 이미지를 생성하도록 요청하는 예시이다.
- 모델은 Apache-2.0 라이선스로 공개되어 있으며 Inkling-Small(276B, 12B 활성)은 추가 테스트 후 가중치가 공개될 예정이다. — 본문의 라이선스·변형 모델 언급 단락
용어 해설
- Mixture-of-Experts
- — Mixture-of-Experts는 입력에 따라 모델의 일부 전문가 서브네트워크만 활성화해 계산 비용을 줄이는 구조이다. 라우팅 메커니즘이 입력 토큰을 특정 전문가로 분배하고, 각 전문가의 출력이 결합되어 최종 예측을 만든다. 대규모 파라미터를 유지하면서도 추론 시 활성 파라미터를 제한해 효율성을 확보하는 데 중요하다.
- Active Parameters
- — 활성 파라미터는 특정 입력 처리 시 실제로 계산에 참여하는 가중치의 수를 가리킨다. MoE 모델에서는 전체 파라미터 대비 일부만 활성화되어 각 추론 단계의 연산량을 줄인다. 활성 파라미터 규모는 모델의 실질적인 추론 비용과 지연에 직접적인 영향을 준다.
- Open Weights
- — 오픈 웨이트는 모델의 학습된 가중치 파일을 공개해 누구나 다운로드하고 재사용할 수 있도록 하는 배포 방식이다. 라이선스에 따라 재학습·재배포·상용 활용의 허용 범위가 달라지며, Apache-2.0 같은 관대한 라이선스는 실무 적응과 커스터마이징을 촉진한다. 공개 가중치는 연구 재현성과 커스텀 파인튜닝 생태계 확장을 가능하게 한다.
- Model Card
- — 모델 카드는 모델의 설계, 훈련 데이터, 성능 한계, 안전 고려사항 등을 문서화한 파일이다. 충분한 상세 정보는 재현성 검증과 윤리적 평가에 필수적이며 모델 채택 결정에도 중요한 근거가 된다. 간결하거나 불충분한 모델 카드는 투명성 평가를 어렵게 만든다.
기술
- Mixture-of-Experts
- Tinker
- Apache-2.0
- curl
활용 사례
- 사전학습된 멀티모달 베이스 모델을 활용한 도메인별 파인튜닝
- API를 통한 이미지 생성 및 생성 결과의 자동 설명
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.