본문으로 건너뛰기

ffn

피드포워드 신경망

트랜스포머 블록 내부에서 각 토큰의 특징을 독립적으로 처리하는 신경망 층이다. 모델의 지식을 저장하는 핵심적인 역할을 수행하며 아키텍처 최적화의 주요 대상이다.