TinyStories
3~4세 아동 수준의 어휘로 구성된 짧은 이야기 데이터셋이다. 소형 언어 모델의 문법적 완성도와 논리적 일관성을 평가하는 벤치마크로 널리 사용된다.
4,000만 파라미터로 대형 모델급 성능? 8차원 기하학을 적용한 새로운 LLM