Google Gemma 4 출시와 온디바이스 AI 보안의 새로운 위협

대체로 긍정적이며, 온디바이스 AI의 확산에 따른 보안 문제의 시급성에 공감하는 반응이 많다.

• 온디바이스 앱 배포 시 모델 가중치 파일에 대한 체크섬(Checksum) 확인 등 무결성 검증 로직을 반드시 포함해야 한다.
• 모델 추출 및 역공학을 방지하기 위해 모델 가중치 암호화나 난독화 기술 적용을 검토해야 한다.

• 온디바이스 AI는 모델이 로컬 기기에 존재하므로 서버 보안을 우회하는 직접적인 모델 접근 및 가중치 변조 공격에 매우 취약하다.
• 적대적 가중치 공격(Typhon)을 통해 로컬 모델의 출력을 임의로 조작할 수 있으며 이를 방어하기 위한 무결성 검증 프로토콜이 필요하다.
• 모델의 지식 재산권 유출을 막기 위해 배포 후에도 작동하는 THEMIS와 같은 전용 보호 프레임워크 도입이 실무적으로 권장된다.
• Gemma 4와 같은 고성능 모델이 기기에 탑재될수록 모델 IP 보호와 실행 보안의 중요성은 더욱 커질 전망이다.