본문으로 건너뛰기
AI Trends
피드
트렌딩
커뮤니티
공지
로그인
피드
트렌딩
커뮤니티
공지
블록 단위 중복 (block-wise redundancy) 용어 설명 | AI Trends
block-wise redundancy
블록 단위 중복
중급
연속된 Transformer 블록 간 표현이 유사하게 반복되어 계산 효율이 떨어지는 현상으로, 인접 블록의 출력이 서로 크게 달라지지 않는다.
비슷한 개념
parameter-redundancy
depth-recurrent-transformer
block-recurrent transformers
transformer-attention
layer-sharing
universal-transformer
entropy-collapse
recursive-transformer
← 용어 사전 전체 보기