애플 실리콘
애플이 설계한 통합 메모리 아키텍처 기반의 칩셋이다. 높은 메모리 대역폭과 효율적인 GPU 성능 덕분에 맥 환경에서 대규모 언어 모델을 로컬로 실행하는 데 매우 유리하다.
내 PC에서 어떤 LLM이 돌아갈까? LLM-neofetch-plus로 확인하기
"내 코드를 왜 API로 보내죠?" 로컬 LLM이 클라우드를 대체할 이유