Prefill 처리량
입력 프롬프트를 모델이 처음 처리하는 단계의 처리 속도입니다. 이 벤치마크에서는 2048토큰 프롬프트를 대상으로 동시 요청 수에 따른 초당 처리 토큰 수를 비교합니다.
