안드로이드 및 iOS에서 Gemma 4 모델 실행 가이드 및 리소스

대체로 긍정적이며, 모바일 기기에서의 실제 구동 성능과 벤치마크에 대한 관심이 높다.

• 안드로이드에서 Gemma 4를 가장 빠르게 테스트하려면 Google AI Edge Gallery 앱을 설치한다.
• 메모리 제약이 심한 환경에서는 LiteRT-LM 프레임워크와 E2B 모델 조합을 우선적으로 고려한다.
• 오디오 입력 기능이 필요한 모바일 앱 개발 시 128K 컨텍스트를 지원하는 E2B/E4B 모델을 선택한다.

LiteRT

— 구글의 온디바이스 AI 추론 프레임워크로, TensorFlow Lite의 새로운 명칭이다. 모바일 및 엣지 기기에서 모델을 효율적으로 실행하도록 최적화되어 있으며, Gemma 4 E2B 모델을 1.5GB RAM 이하에서 구동할 수 있게 한다.

AICore

— 안드로이드 시스템에 내장된 기반 서비스로, 기기 자체에서 AI 모델을 관리하고 실행한다. 개발자가 개별적으로 모델을 배포할 필요 없이 시스템이 제공하는 최적화된 Gemma 4 모델을 활용할 수 있게 돕는다.

MediaPipe

— 구글이 제공하는 오픈소스 프레임워크로, 비디오, 오디오, 텍스트 등 다양한 형태의 머신러닝 파이프라인을 구축할 수 있다. iOS 환경에서 Gemma 4와 같은 LLM을 추론하기 위한 공식 SDK로 활용된다.

Context Window

— 모델이 한 번에 처리하고 기억할 수 있는 텍스트의 양을 의미한다. Gemma 4 엣지 모델은 128K 토큰을 지원하여 긴 대화나 문서를 처리할 수 있는 능력을 갖추고 있다.

On-device Inference

— 클라우드 서버를 거치지 않고 스마트폰이나 PC 등 로컬 기기에서 직접 AI 모델의 추론을 수행하는 기술이다. 개인정보 보호, 오프라인 사용 가능성, 지연 시간 단축 등의 장점이 있다.