포스트 레이어 정규화
트랜스포머 아키텍처에서 잔차 연결 이후에 레이어 정규화를 적용하는 방식입니다. 학습 안정성을 위해 Pre-LayerNorm이 주로 쓰였으나, 최근 연구에서는 표현력 향상을 위해 다시 주목받고 있습니다.
구글 크롬에 탑재된 AI 에이전트와 4,000억 파라미터 오픈소스 모델의 등장