본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
로컬 활성화 비율 (local-activation-rate) 용어 설명 | AI Trends
local-activation-rate
로컬 활성화 비율
중급
FoE에서 토큰의 expert 선택 중 로컬 GPU에서 해결되는 비율로서, ρ가 높을수록 모든-to-all 통신이 줄고 로컬 라우팅 비중이 커진다.
비슷한 개념
expert-groups
expert-parallelism
active-parameters
local-sgd
ReLU-based routing
expert-utilization-ratio
active-weights
moe-routing
← 용어 사전 전체 보기