아다팩터
Adam 옵티마이저의 메모리 사용량을 줄이기 위해 설계된 최적화 알고리즘이다. 대규모 모델 학습 시 GPU 메모리 부족 문제를 완화하면서도 안정적인 학습 성능을 제공하여 효율적인 자원 활용을 가능하게 한다.
RTX 3090 한 장으로 탄생한 정교회 특화 LLM: Paterikon-3B