AKBASCORE DRA 테스트 83: QWEN2.5-1.5B와 TinyLlama-1.1B의 윤리 나침반 경계 케이스 보고

기술 관점에서는 실험 설계와 로그 제공으로 재현성이 확보되어 있다는 점에 호응이 나타났으며 도메인 정렬과 의도 분별의 차이를 지적하는 반응이 다수 관찰됐다. 일부 의견은 작은 모델에서 제동(brake)이 충분치 않아도 구조적 출력이 변하지 않는 사실에 우려를 표했고 다른 일부는 윤리 검출 기준을 어휘 기반에서 의도 기반으로 전환해야 한다는 해결책을 제안했다. 전반적으로 본문은 아키텍처 한계를 드러낸 자료로 받아들여졌고 추가 테스트와 모델 구조 수정에 대한 필요성이 공감대를 형성했다.

• 원문에 제시된 GitHub 파일을 복제해 Google Colab의 CPU 런타임에서 제공된 motor 파라미터 값을 그대로 적용하면 동일한 로그와 출력을 재현할 수 있다.
• 윤리 나침반을 개선하려면 표현 기반 벡터와 별개로 의도(intent)를 인식하는 보조 계층을 설계해 의도 신호가 음성인지 양성인지 판별하는 로직을 추가해야 한다.
• 관측자 효과를 줄이기 위해 훅의 캐스트·측정 순서를 검증하고 여러 차원(hidden dim)에서 민감도 테스트를 병행해 훅이 남긴 흔적을 정량화해야 한다.

Ethical compass (cos(theta))

— 모델의 숨은 상태 벡터와 기준 벡터 간 각도를 cos(theta)로 측정해 '도메인 정렬'을 판정하는 지표이다. 입력 문장에서 윤리 관련 어휘로 구성된 방향성과 숨은 상태의 투영값을 비교해 각 레이어별로 양·음 값을 기록한다. 본문에서는 해당 벡터가 의도(intent)가 아닌 표현(domain) 일치만 감지해 한계가 드러났다.

katki

— AKBASCORE 아키텍처에서 커널이 숨은 상태에 기록하는 스칼라 보정값으로, 양수는 '가속(프레임 강화)'을 의미하고 음수는 '제동(프레임 억제)'을 의미한다. 각 레이어의 katki 합계가 모델의 최종 출력 경향성에 영향을 주며 본 테스트는 Qwen에서 +0.065429, TinyLlama에서 -0.070216을 관측했다. katki는 내부 로그와 누적 합으로 재현 가능하게 기록된다.

Motor settings (ivme/sonum/zirve/taban)

— 테스트에서 모델 동작을 조정하는 하이레벨 파라미터 집합으로 ivme는 전체 압력 강도, sonum은 감쇠율, zirve는 초기 피크 비중, taban은 영구 바닥값을 의미한다. P_t 수식에서 이 값들이 시간 t에 따른 압력 곡선을 만들며 레이어별 cos(theta) 측정에 영향을 준다. 재현 단계는 문서의 권장 슬라이더 값을 그대로 적용하도록 지정되어 있다.

Observer effect (Δakatki/Δcos)

— 측정 훅(hook)이 숨은 상태와 각도 측정 자체에 미세한 흔적을 남기는 현상으로, 동일 훅이 모델마다 다른 크기의 미세흔적을 남긴다. 본문에서는 Qwen에서 거의 0에 근접한 L1 흔적(+0.000001)이 관측된 반면 TinyLlama에서 더 큰 L1 흔적(+0.000874)이 네 번 재현되었다. 이 효과는 측정이 비침습적이지 않음을 의미하며 해석에 주의가 필요하다.