그래디언트 캐싱
매 스텝 거대한 생성 배치를 메모리 제약 없이 처리하기 위해 배치를 청크로 나누어 각 청크의 정확한 그래디언트를 축적한 뒤 합산하는 기법으로, 본문에서는 대형 배치 N=5120/10240을 가능하게 했다.
