특화된 소형 모델이 거대 모델을 압도하다: DharmaOCR 오픈소스 공개

작성자가 질문을 환영하며 지식 공유를 요청한 상태로, SLM 파인튜닝 경험자들의 피드백을 기다리고 있다.

• OCR 성능 개선을 위해 모델의 오답 데이터를 DPO 학습의 rejected 샘플로 활용해라.
• 추론 비용 절감이 필요하다면 성능 저하가 적은 AWQ 양자화 적용을 고려해라.

• 특화된 7B 규모의 SLM이 SFT와 DPO 최적화를 통해 GPT-5.4 등 최신 거대 모델보다 높은 0.925의 OCR 성능을 달성했다.
• 모델의 자체 오류 데이터를 DPO의 거부 예시로 활용하는 전략이 실패율을 87.6%까지 낮추는 핵심 기법으로 확인됐다.
• AWQ 양자화를 적용하면 성능 손실 없이 추론 비용을 22% 절감할 수 있어 대규모 서비스 운영에 유리하다.