demand-paging
요구 페이징
프로그램 실행 시 모든 데이터를 메모리에 올리지 않고 필요한 시점에만 해당 페이지를 메모리에 적재하는 운영체제의 메모리 관리 기법이다. LLM에서는 전체 대화 기록 중 필요한 부분만 컨텍스트 윈도우에 포함시켜 자원을 효율적으로 관리하는 데 사용된다.
요구 페이징
프로그램 실행 시 모든 데이터를 메모리에 올리지 않고 필요한 시점에만 해당 페이지를 메모리에 적재하는 운영체제의 메모리 관리 기법이다. LLM에서는 전체 대화 기록 중 필요한 부분만 컨텍스트 윈도우에 포함시켜 자원을 효율적으로 관리하는 데 사용된다.