cpu-gpu-role
CPU와 GPU의 연산 역할 분담
저자 관점에서는 GPU는 확률적 토큰 생성과 대규모 병렬 텍스트 연산에 최적화되고, CPU와 메모리는 순차적·결정론적 계산에 더 적합하다고 본다. 따라서 수치 계산 부담을 CPU로 전환하면 GPU 부하는 줄고 전체 효율이 올라갈 수 있다. 하드웨어 유휴 자원의 재배치 가능성도 논의 대상이다.
CPU와 GPU의 연산 역할 분담
저자 관점에서는 GPU는 확률적 토큰 생성과 대규모 병렬 텍스트 연산에 최적화되고, CPU와 메모리는 순차적·결정론적 계산에 더 적합하다고 본다. 따라서 수치 계산 부담을 CPU로 전환하면 GPU 부하는 줄고 전체 효율이 올라갈 수 있다. 하드웨어 유휴 자원의 재배치 가능성도 논의 대상이다.
