nanogpt

안드레 카파시가 공개한 GPT-2 아키텍처의 최소 구현체로, 학습 원리를 이해하고 실험하기에 적합한 코드베이스다. 이 영상에서는 이를 수정하여 자율 학습 실험의 기초로 활용했다.