게이티드 합성 임베딩 (gated-compositional-embedding) 용어 설명 | AI Trends
gated-compositional-embedding
게이티드 합성 임베딩
중급
각 해시 좌표의 버킷 임베딩들을 병렬로 조회한 뒤, 소형 병목 네트워크와 softmax 기반 게이트로 가중합하여 하나의 d차원 잠재 벡터로 압축하는 모듈이다. 이 방식은 해시 버킷 간 의미적 충돌을 완화하고 컨텍스트에 따라 좌표 기여도를 조정한다. 결과 벡터는 Transformer 디코더의 입력 임베딩으로 사용된다.