uram
UltraRAM
FPGA 내부의 대용량 온칩 SRAM 블록으로, 대역폭이 매우 높아 가중치를 상시 저장하고 읽어오는 데 적합하다. 이 프로젝트에서는 모델의 INT4 가중치 ~1.5 MB를 URAM에 상주시켜 DDR 접근을 피함으로써 토큰 생성 속도를 끌어올렸다.
UltraRAM
FPGA 내부의 대용량 온칩 SRAM 블록으로, 대역폭이 매우 높아 가중치를 상시 저장하고 읽어오는 데 적합하다. 이 프로젝트에서는 모델의 INT4 가중치 ~1.5 MB를 URAM에 상주시켜 DDR 접근을 피함으로써 토큰 생성 속도를 끌어올렸다.
