본문으로 건너뛰기

recurrence state

순환 상태

시퀀스를 처리하는 동안 이전 단계의 정보를 다음 단계로 전달하는 내부 상태입니다. CWAA는 각 토큰을 처리할 때 이 상태를 갱신하고 다음 토큰 계산에 재사용하는 방식으로 전체 Attention 행렬을 저장하지 않습니다.