본문으로 건너뛰기

llama.cpp-fork

llama.cpp 포크

기존 llama.cpp 코드에서 특정 모델의 구조나 연산을 지원하도록 분기해 수정한 별도 코드베이스입니다. 이 글의 포크는 Mach-1-Additive-35B GGUF를 실행하는 사용자 지정 추론 환경으로 함께 배포됐습니다.