프롬프트 평가
입력 프롬프트에 포함된 토큰을 모델이 처리하는 단계다. 생성 단계와 달리 여러 입력 토큰을 묶어 계산하므로 처리량이 높게 나타날 수 있으며, 글에서는 최대 약 950 tok/s가 측정됐다.
