본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
Prefix 감소 (prefix-decay) 용어 설명 | AI Trends
prefix-decay
Prefix 감소
중급
생성 진행 중 프리픽스의 영향이 토큰 간 어텐션 분산으로 인해 약화되는 현상으로, 긴 컨텍스트에서 prefix의 기여도가 점차 감소한다.
비슷한 개념
attention-sparsity
long-context-window
attention-collapse
positional-decay
prefix-perturbation
context-overhead
instruction-degradation
prompt-prefix
← 용어 사전 전체 보기