causal-memory
인과 메모리 표현
각 블록에서 계산한 요약을 바탕으로 생성되는 압축된 표현으로, 이후 블록으로 전달되어 장거리 정보를 유지한다. 이 메모리는 인과적 순서를 보존하며 이후 블록의 어텐션 입력(예: 키/값 보강 또는 조건화)에 사용되어 글로벌 문맥을 전파한다. 메모리 크기와 요약 방식이 모델 성능 및 효율성에 직접적인 영향을 미친다.
인과 메모리 표현
각 블록에서 계산한 요약을 바탕으로 생성되는 압축된 표현으로, 이후 블록으로 전달되어 장거리 정보를 유지한다. 이 메모리는 인과적 순서를 보존하며 이후 블록의 어텐션 입력(예: 키/값 보강 또는 조건화)에 사용되어 글로벌 문맥을 전파한다. 메모리 크기와 요약 방식이 모델 성능 및 효율성에 직접적인 영향을 미친다.