구글, 16GB RAM에서 구동 가능한 12B 멀티모달 모델 공개

커뮤니티 반응

온디바이스 AI의 실용성에 대해 긍정적인 반응을 보이며, 클라우드 의존도 감소에 대한 기대감을 나타냈다.

01찬성다수

클라우드 API 없이 로컬에서 고성능 모델을 구동하는 온디바이스 AI가 실질적인 대안으로 자리 잡고 있다.

구글이 공개한 12B 파라미터 멀티모달 모델은 16GB RAM 환경에서 구동 가능하여 일반 소비자용 하드웨어인 맥북 프로에서도 실행할 수 있다. 이는 클라우드 API 호출이나 월 구독료 없이 로컬 환경에서 고성능 AI를 활용할 수 있음을 의미한다.

해당 모델은 인코더가 없는 구조를 채택하여 이미지와 텍스트를 동시에 처리할 수 있다. Apache 2.0 라이선스로 배포되어 상업적 활용이 자유롭다는 점이 큰 장점이다.

클라우드 중심의 AI 서비스 모델에서 온디바이스 AI로의 전환이 가속화되고 있다. 이는 로컬 컴퓨팅 자원만으로도 충분히 강력한 AI 성능을 구현할 수 있다는 실무적 합의를 보여준다.

멀티모달 모델(Multimodal Model): — 텍스트, 이미지, 오디오 등 서로 다른 형태의 데이터를 동시에 이해하고 처리할 수 있는 AI 모델. 단일 모달 모델보다 복잡한 맥락 파악이 가능하다.
온디바이스 AI(On-device AI): — 클라우드 서버를 거치지 않고 사용자 기기 자체에서 AI 모델을 구동하는 기술. 데이터 프라이버시 보호와 지연 시간 감소에 유리하다.
아파치 2.0 라이선스(Apache 2.0): — 소프트웨어의 사용, 수정, 배포 및 상업적 이용을 허용하는 오픈소스 라이선스. 기업이 제약 없이 AI 모델을 활용할 수 있게 한다.