본문으로 건너뛰기

weight-time-memory

웨이트-타임 메모리

정보가 모델 파라미터에 흡수되어 텍스트가 사라져도 내부 상태로 남아있는 방식의 기억이다. 이 경우 컨텍스트에서 토큰을 제거해도 동작에 영향을 주지 않는다.