TL;DR

Magnitude는 로컬 모델로 완전 오프라인 에이전트를 실행하는 TypeScript 기반 CLI 도구입니다. 내부적으로 Rust 기반 추론 엔진(llama.cpp 위)에 하드웨어 프로파일링, 모델 메모리 산정, 가속 및 배치 튜닝 같은 자동화 로직을 포함하여 모델 다운로드와 전환을 쉽게 관리합니다. skills를 통해 브라우저 제어나 Office·PDF 처리 같은 기능을 로컬에서 통합할 수 있어 민감한 데이터 처리나 내부 자동화 시나리오에 적합하지만, 원하는 성능을 얻으려면 충분한 로컬 리소스가 필요합니다.

핵심 포인트

• 이 레포는 로컬 모델을 기반으로 동작하는 독립 실행형 CLI 도구이자 에이전트입니다. npm 패키지 @magnitudedev/cli로 설치하고 프로젝트에서 magnitude 명령으로 실행하며 macOS와 Linux를 기본으로 지원하고 Windows는 WSL을 통해 사용합니다. 내부 추론 엔진은 Rust로 작성되어 llama.cpp 위에 올려져 있고 로컬에서 모델을 로드해 완전 오프라인으로 동작하므로 API 키나 토큰 비용이 전혀 발생하지 않습니다.
• 하드웨어 프로파일링과 자동 모델 설정 기능이 내장되어 있어 사용자의 시스템을 검사한 뒤 Balanced, Best Quality, Fastest, Lightweight 같은 옵션을 권장하고 모델 다운로드와 구성을 자동으로 처리합니다. 로드 전 메모리 요구량을 계산하고 가속, placement, batching을 하드웨어에 맞춰 조정하므로 모델 적재와 추론 과정에서 실패를 줄입니다. 이러한 자동화는 모델 전환과 병렬 에이전트 운영 시에도 컨텍스트 윈도우를 보존하고 응답성을 유지하도록 설계되어 있습니다.
• 에이전트는 파일 검사·편집, 쉘 명령 실행, 이미지 처리, 장기 세션 관리 같은 로컬 작업을 직접 수행하며 skills를 추가해 기능을 확장할 수 있습니다. skills.sh 같은 디렉터리에서 브라우저 제어, Excel·PowerPoint·Word·PDF 처리용 스킬을 받아와서 에이전트에 연결할 수 있으므로 문서 작업·자동화·데이터 분석 워크플로를 로컬에서 통합할 수 있습니다. 로컬 추론과 도구 연동을 결합해 민감한 데이터 처리나 내부 문서 검토 같은 시나리오에서 외부로 데이터를 노출하지 않고 작업을 진행할 수 있습니다.
• 플랫폼 요구와 제약은 명확히 로컬 자원에 의존한다는 점입니다. README와 UI 데모는 Apple M4 Max 같은 고성능 장비에서의 모델 선택과 메모리/컨텍스트 요구치를 보여주며, 따라서 충분한 디스크와 RAM/GPU가 없는 환경에서는 원하는 모델을 사용하기 어렵습니다. 로컬에서 완전 오프라인으로 운영해야 하는 보안 민감 워크로드에는 적합하지만, 반대로 클라우드 기반 확장성이나 중앙집중형 관리가 필요한 경우에는 제약이 발생합니다.

이미지 분석