residual-stream

트랜스포머 모델 내부에서 데이터가 층을 거치며 정보가 누적되는 통로이다. 각 레이어의 연산 결과가 이전 값에 더해지는 구조로, 모델의 최종 판단에 기여하는 핵심적인 활성화 벡터 흐름을 담고 있다. 이 흐름을 분석하면 모델의 내부 상태를 실시간으로 파악하고 조정할 수 있어 안전성 제어에 매우 중요하다.