bitsandbytes
LLM의 8비트 및 4비트 양자화를 지원하는 라이브러리이다. 특히 대규모 모델을 파인튜닝하거나 추론할 때 메모리 효율성을 극대화하기 위해 널리 사용되는 핵심 도구이다.