본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
context-overhead
컨텍스트 오버헤드
중급
프롬프트가 길어질수록 모델이 처리해야 할 정보량이 늘어나 추론 속도가 느려지고 가용 토큰이 줄어드는 현상이다. 소형 모델일수록 이로 인한 성능 저하가 두드러진다.
비슷한 개념
prompt-bloating
prompt-processing
context-size
context-bloat
context-exhaustion
context-length
context-window-overflow
prompt-creep
← 용어 사전 전체 보기