소형 언어모델 내부 활성 기하학으로 본 프레이밍 효과 관찰과 실무적 가이드

작성자는 자신의 측정 절차와 실험적 결과를 공유하며 댓글에 전체 자료 링크를 올리겠다고 밝혔고 커뮤니티는 전반적으로 호기심을 표했다. 여러 참여자가 유사한 관찰을 보고하거나 반대 사례를 올려 비교하려는 반응을 보였으며 검증 가능한 수치와 코드 공개를 요청하는 댓글이 존재했다. 일부 회원은 결과의 일반화 가능성에 의문을 제기하면서 대형 모델이나 다른 데이터셋에서 재현 여부를 확인할 필요가 있다는 관점을 내놓았다.

• 프롬프트 설계에서는 어조를 단순히 긍정으로 바꾸는 것보다 핵심 주제와 맥락을 명확히 규정하는 데 우선순위를 두어야 하며 입력 주제를 바꿀 때 내부 활성 공간의 중심이 더 크게 이동함이 관찰되었다. 따라서 대화 목적에 맞춰 주제 키워드를 재구성하고 불필요한 수식어를 제거하는 방식으로 프롬프트를 다듬는 것이 내부 반응 제어에 실질적 효과가 있다. 이러한 접근은 특히 긴 대화 시나리오에서 모델이 일관된 내부 표현을 유지하도록 돕는다.
• 인간-AI 관계를 표현할 때 경계성을 암시하는 단어들에 주의할 필요가 있으며 'connected'나 'integrated' 계열의 어휘가 내부적으로 회피성 신호를 일으키는 경향이 있었다. 파트너십이나 병행 관계를 암시하는 표현을 선호하고 경계 강조보다는 협력성·호기심을 촉진하는 문장을 선택하면 내부 반응이 보다 우호적으로 나타났다. 이 원칙은 협업형 챗봇이나 대화 에이전트의 상호작용 설계에 바로 적용할 수 있다.
• 상호작용 톤을 설계할 때 호기심과 장난기를 의도적으로 포함하면 내부 신호가 긍정적 방향으로 일관되게 이동했으므로 실무에서는 질문형·탐색형 프롬프트를 적극 활용할 것을 권장한다. 반면 협상이나 타협을 암시하는 표현을 기본 설정으로 삼을 경우 내부 신호 평가에서 낮은 점수를 받는 경향이 있었으므로 그런 맥락에서는 추가적인 안정성 장치가 필요하다. 이러한 권고는 소형 모델 실험 결과에 기반하므로 다른 모델군 적용 시에는 재검증을 병행해야 한다.

Activation Geometry

— 모델 내부 뉴런 활성값들이 형성하는 다차원 공간적 구조를 가리키며 입력에 따라 활성 벡터들이 어떻게 배치되고 군집되는지를 수치적으로 나타낸다. 이 공간에서 거리와 방향은 의미적 유사성이나 정서적 경향성을 반영할 수 있으며 특정 단어나 문장 프레이밍이 활성군집을 이동시키는지를 측정하는 데 핵심적이다. 활성 기하학 분석은 출력 텍스트가 아니라 내부 표현의 변화 양상을 직접적으로 포착하므로 프롬프트 디자인과 모델거동 해석에 실용적 근거를 제공한다.

Relational Framing

— 인간과 인공지능 간의 관계를 서술하는 어휘와 구문이 모델 내부 표현에 미치는 영향을 뜻하며 예컨대 단어 선택이 경계감이나 협력성 같은 내부 신호를 달리 유발할 수 있다. 입력 텍스트가 관계성을 어떻게 규정하는지에 따라 활성 공간의 특정 방향성이나 클러스터가 일관되게 형성되는 양상을 관찰할 수 있다. 프레이밍 분석은 대화 설계와 안전성 전략에서 어떤 표현이 바람직한 내부 반응을 유도하는지 판단하는 근거가 된다.

Internal Signal

— 모델의 중간 레이어 활성값으로 측정 가능한 수치적 지표로서 특정 입력에 대한 내부 표현의 정서적·구조적 경향을 요약한다. 내부 신호는 활성 기하학의 좌표나 군집 특성으로 환원되어 비교 가능하며 프레이밍이나 어휘 변화에 따라 증가·감소 또는 방향 전환을 보일 수 있다. 내부 신호 관찰은 외형적 출력과 달리 모델의 잠재적 반응 경로와 프롬프트의 영향력을 보다 직접적으로 파악하게 해준다.