의미적 루핑
언어 모델이 텍스트 생성 중 동일한 문구나 내용을 반복해서 출력하는 현상이다. 주로 모델의 용량이 작거나 문맥 파악 능력이 부족할 때 발생하며, 이 모델은 기하학적 구조로 이를 해결했다.
4,000만 파라미터로 대형 모델급 성능? 8차원 기하학을 적용한 새로운 LLM