Learning-rate sweep

학습률 탐색은 여러 학습률과 스케줄을 비교해 최적의 옵티마이저 설정을 찾는 절차다. 이 연구에서는 LoRA가 FullFT보다 높은 최적 학습률을 선호하는 경향을 보였고, 미조정 레시피에서 생긴 겉보기 격차를 학습률 탐색으로 대부분 제거했다. Nexa 과제에서는 초기 FullFT 우위가 학습률 탐색으로 뒤집혔다.