per-layer-embeddings
레이어별 임베딩
Per-Layer Embeddings는 모델의 각 레이어에서 별도 임베딩을 유지해 파라미터를 플래시 같은 비휘발성 저장소에 배치하는 방식이다. 입력이 들어오면 각 토큰별로 해당 레이어 임베딩을 읽어오고 조합하여 출력 계산에 사용한다. 메모리가 제한된 장치에서 전체 가중치를 RAM에 올리지 않고도 모델 동작을 유지하는 핵심 설계다.
레이어별 임베딩
Per-Layer Embeddings는 모델의 각 레이어에서 별도 임베딩을 유지해 파라미터를 플래시 같은 비휘발성 저장소에 배치하는 방식이다. 입력이 들어오면 각 토큰별로 해당 레이어 임베딩을 읽어오고 조합하여 출력 계산에 사용한다. 메모리가 제한된 장치에서 전체 가중치를 RAM에 올리지 않고도 모델 동작을 유지하는 핵심 설계다.
