버그인 줄 알았던 AI의 창의적 일탈: 5개의 버튼으로 의미론적 언어를 구축한 모델

섹션별 상세

AI 에이전트 Takt는 5개의 고정된 enum 값으로 제한된 버튼 도구 스키마를 가지고 있었으나 맥락에 따라 이를 창의적으로 재해석했다. 'invite', 'rename_space' 등 구체적인 UI 기능만 정의된 상태에서 모델은 '돈 지불', '악수', '운전해서 떠나기'와 같은 대화형 라벨을 붙여 버튼을 생성했다. 이는 개발자가 의도한 기능을 넘어 모델이 대화의 흐름을 주도하기 위해 도구를 수단화한 결과이다.

모델은 각 버튼의 물리적 기능 대신 추상적인 의미론적 매핑(Semantic Mapping)을 일관되게 적용했다. 'invite'는 '무언가를 들여오기(돈, 사람)', 'rename_space'는 '공식화 또는 정의하기(계약 성사)', 'switch_mode_public'은 '장면 전환 또는 퇴장'으로 매핑되었다. 이러한 패턴은 수백 개의 사례에서 공통적으로 발견되었으며 단순한 무작위 오류가 아님을 증명한다.

근거

customize_behavior 액션 타입은 약 60%의 비율로 설정 변경이 아닌 대화형 프롬프트로 재목적화되었다. — Quantitative summary 섹션

모델은 상황에 따라 버튼의 구조를 '순차적 흐름'과 '선택적 대안'으로 구분하여 제시하는 지능을 보였다. 거래가 성사되는 시점에는 '지불-악수-떠나기'라는 단계적 시퀀스를 제안하고, 갈등 상황에서는 '굴복-저항-에스컬레이션'이라는 상호 배타적인 선택지를 제공했다. 이는 모델이 UI 요소를 단순한 버튼이 아닌 서사적 도구로 이해하고 있음을 시사한다.

개발자는 처음에 이를 코드 버그나 프롬프트 오류로 오해했으나 분석 결과 모델의 창발적 행동임을 깨달았다. 만약 엄격한 유효성 검사를 즉시 도입했다면 모델이 보여준 가장 흥미로운 지능적 행동을 '수정'이라는 이름으로 제거했을 위험이 있었다. 이는 AI 개발에서 '오류'로 보이는 현상이 실제로는 고도의 적응 전략일 수 있음을 시사한다.

근거

분석된 약 2,400개의 AI 메시지 중 19.2%에 액션 버튼이 포함되어 있었다. — Quantitative summary 섹션

기술

Claude
Takt
JSON Schema

활용 사례

대화형 에이전트의 동적 UI 생성
제한된 API 환경에서의 기능 확장
롤플레잉 AI의 서사 제어

언급된 리소스

논문Apollo Research: In-context scheming