본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

컨텍스트 오버헤드 (context-overhead) 용어 설명 | AI Trends

context-overhead

컨텍스트 오버헤드

중급

프롬프트가 길어질수록 모델이 처리해야 할 정보량이 늘어나 추론 속도가 느려지고 가용 토큰이 줄어드는 현상이다. 소형 모델일수록 이로 인한 성능 저하가 두드러진다.

비슷한 개념

prompt-bloating prompt-processing context-size context-bloat context-exhaustion context-length context-window-overflow prompt-creep

← 용어 사전 전체 보기