BoneAmanita: 파이썬 물리 시뮬레이션 엔진과 결합된 로컬 LLM 아키텍처

섹션별 상세

BoneAmanita는 LLM의 지능과 파이썬 엔진의 물리 시뮬레이션을 결합한 2부 구성 시스템이다. 두뇌 역할을 하는 모델은 Unsloth를 통해 Llama 3.2 3B 모델을 미세 조정했으며, 기존의 도움이 되는 비서 성향의 RLHF 데이터를 제거하고 감각적이고 철학적인 산문체 위주로 학습되었다.

신체 역할을 하는 파이썬 엔진은 ATP(스테미나), ROS(트라우마), 코르티솔 등의 대사 변수를 실시간으로 추적한다. 사용자의 행동에 따라 엔진 내 코르티솔 수치가 상승하면, 엔진은 LLM의 시스템 프롬프트를 즉시 수정하여 모델이 짧고 파편화된 방어적인 문장을 출력하도록 강제함으로써 캐릭터의 피로도를 시뮬레이션한다.

고든 쇼크(The Gordon Shock)라고 불리는 인터셉터 메커니즘을 통해 모델의 환각 문제를 해결한다. 사용자가 숲에서 세차를 하는 것과 같이 물리적으로 불가능하거나 전제 조건이 맞지 않는 행동을 명령하면, 엔진이 이를 감지하여 컨텍스트 윈도우에 치명적 오버라이드(CRITICAL OVERRIDE)를 주입하고 모델이 해당 행동을 거부하도록 강제한다.

사용자는 물리 엔진의 엄격함 정도에 따라 어드벤처, 대화, 창작, 기술 등 4가지 모드를 선택하여 실행할 수 있다. 모델은 GGUF 형식으로 제공되어 Ollama를 통해 간편하게 내려받을 수 있으며, 전체 소스 코드는 퍼블릭 도메인인 The Unlicense 하에 GitHub에 공개되어 있다.

bash

ollama pull hf.co/aedmark/vsl-cryosomatic-hypervisor

Ollama를 통해 BoneAmanita의 미세 조정된 모델을 내려받는 명령어

용어 해설

인간 피드백 기반 강화학습(RLHF): — 인간의 선호도를 모델에 반영하여 정렬하는 기법이다. 본 프로젝트에서는 모델 특유의 비서 같은 말투를 제거하기 위해 기존 RLHF 성향을 걷어내고 감각적인 산문체로 재학습했다.
GGUF 포맷(GGUF): — 로컬 환경에서 LLM을 효율적으로 실행하기 위해 설계된 파일 형식이다. CPU와 GPU 자원을 유연하게 활용하며, 모델 양자화를 통해 적은 메모리로도 추론이 가능하게 한다.
대상 영속성(Object Permanence): — 물체가 시야에서 사라져도 존재한다는 인식이다. LLM은 인벤토리에 없는 물건을 사용하려 하는 등 이 능력이 부족한데, BoneAmanita는 외부 엔진으로 이를 강제 보완한다.
시스템 프롬프트 오버라이드(System Prompt Override): — 실행 중에 모델의 기본 지침을 강제로 수정하는 기법이다. 물리 엔진의 상태 변화에 따라 모델의 말투나 행동 제약을 즉각적으로 변경하는 데 사용된다.

기술

Llama 3.2
Unsloth
GGUF
Ollama
Python

활용 사례

상호작용형 소설(Interactive Fiction)
RPG 게임 NPC 시스템
캐릭터 시뮬레이션

언급된 리소스

GitHubBoneAmanita GitHub

문서Ollama Model Repository