Generation Cache

생성 캐시는 thinker의 언어·상태 계산 결과를 K/V 형태로 보관한 구조로, 이후 performer가 이 K/V를 조건화 정보로 사용해 다음 단위의 잠재 생성을 수행하게 한다. 이 캐시는 생성 시 언어·상태 연산을 중복하지 않도록 하여 지연 민감 경로를 짧게 유지하는 역할을 한다. 논문에서는 thinker가 생성 캐시를 구축해 performer로 브로드캐스트된 K/V 슬라이스만 전달하도록 설계했다.