fifo

먼저 들어온 데이터를 먼저 처리하는 가장 기본적인 큐(Queue) 관리 방식이다. LLM 서비스에서는 앞선 긴 요청이 끝날 때까지 뒤의 짧은 요청들이 대기해야 하는 병목의 원인이 되기도 한다.