앙상블 컨텍스트 모델링
여러 모델이나 다양한 문맥 정보를 결합하여 다음에 나타날 데이터의 확률을 더 정확하게 예측하는 기법이다. 압축 파이프라인에서 예측 정확도를 높여 압축률을 향상시킨다.
LLM으로 압축률은 극대화했지만 복원 속도가 고민이라면? 새로운 압축 기법 논의