롱 컨텍스트 윈도우
모델이 한 번에 처리할 수 있는 입력 토큰의 범위가 넓은 상태. 긴 문맥을 다룰 때 모델이 모든 정보를 균등하게 기억하지 못하고 특정 위치에서 성능이 저하되는 문제가 발생할 수 있다.