override-tensor
텐서별 배치 재정의
`--override-tensor`는 모델 전체 블록이 아니라 이름 패턴에 맞는 특정 텐서의 실행 장치를 재지정하는 llama.cpp 계열 옵션입니다. 게시물은 세 블록마다 FFN 텐서를 CPU로 보내 약 2.8GB의 VRAM을 회수합니다.
텐서별 배치 재정의
`--override-tensor`는 모델 전체 블록이 아니라 이름 패턴에 맞는 특정 텐서의 실행 장치를 재지정하는 llama.cpp 계열 옵션입니다. 게시물은 세 블록마다 FFN 텐서를 CPU로 보내 약 2.8GB의 VRAM을 회수합니다.
