트랜스포머 내부에서 개념의 의미 연산 그래프를 복원할 수 있는가?

트랜스포머 내부에서 특정 개념에 해당하는 반복적 계산 서브그래프를 복원할 수 있는지를 탐색하며, 수백 개의 대비 프롬프트를 입력으로 잔차·어텐션·MLP 활성값을 캡처하고 활성 기반 그래프를 구성해 합의 그래프를 생성한다. 초기 관찰은 의미 분화가 층을 거치며 점진적으로 커지고 후기 층에서 가장 강하며 일부 뉴런 그룹이 동일 개체 프롬프트에서 반복적으로 나타나고 서로 다른 개체들이 공통 분기와 개체 특이 분기를 동시에 가진다는 점을 보여준다. 아직 대안적 설명들이 남아 있어 'semantic circuit'로 결론을 내리기에는 추가 검증이 필요하며 다음 단계는 더 큰 프롬프트 집합과 다른 오픈소스 모델들에서 합의 그래프의 안정성을 검증하는 것이다.