GMKtec Evo-X2 미니 PC 리뷰: 로컬 LLM 구동을 위한 강력한 성능

작성자의 상세한 리뷰에 대해 긍정적인 반응이며, 특히 미니 PC에서 120B 모델을 구동할 수 있다는 점에 높은 관심을 보였다. 일부 사용자는 리눅스 환경에서의 드라이버 지원 여부와 실제 추론 속도(tokens per second)에 대해 추가 질문을 던졌다.

• 대형 모델 구동을 위해 BIOS 설정에서 iGPU에 할당되는 VRAM 용량을 최대치로 조정해야 한다.
• 안정적인 AI 워크플로우를 구축하려면 윈도우보다는 우분투(Ubuntu) 등 리눅스 배포판 사용을 권장한다.
• 고부하 작업 시 온도가 높게 올라가므로 통풍이 잘 되는 환경에서 사용해야 한다.

• AMD의 통합 메모리 아키텍처는 VRAM 부족 문제를 겪는 개인 연구자들에게 Apple Silicon의 강력한 대안이 될 수 있다.
• Ryzen AI Max+ 395의 NPU와 iGPU 조합은 엣지 컴퓨팅 환경에서 복합적인 AI 태스크를 처리하기에 최적화된 구조이다.

• 128GB LPDDR5X RAM을 탑재하여 최대 96GB를 VRAM으로 할당 가능하며, 120B 파라미터급 LLM을 로컬에서 구동할 수 있다.
• AMD Radeon 8060S iGPU는 외장 GPU 없이도 최신 AAA 게임을 원활하게 실행할 수 있는 수준의 성능을 제공한다.
• 윈도우 환경에서 ROCm 호환성 등 소프트웨어 생태계의 불안정성이 일부 존재하므로, 전문적인 AI 작업을 위해서는 리눅스 사용이 권장된다.