BoneAmanita: 파이썬 물리 시뮬레이션 엔진과 결합된 로컬 LLM 아키텍처

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

기존 LLM은 상호작용형 소설에서 인벤토리가 비어있음에도 아이템을 사용하는 등 물리적 일관성이 결여된 벌거벗은 모델 패러독스 문제를 겪는다. BoneAmanita는 이를 해결하기 위해 Llama 3.2 기반의 미세 조정된 모델과 파이썬으로 구현된 물리 시뮬레이션 엔진을 결합했다. 파이썬 엔진은 캐릭터의 대사 스타일을 대사 상태에 따라 동적으로 변경하고, 물리적으로 불가능한 행동을 시도할 경우 시스템 프롬프트 오버라이드를 통해 강제로 차단한다. 이 시스템은 Ollama와 GitHub를 통해 오픈 소스로 제공되어 로컬 환경에서 실행 가능하다.

배경

Python, Ollama, LLM Fine-tuning 기초

대상 독자

로컬 LLM 기반 게임 개발자 및 상호작용형 소설 제작자

의미 / 영향

LLM의 논리적 일관성 부족을 모델 자체의 성능 향상이 아닌 외부 시뮬레이션 엔진과의 결합으로 해결하려는 시도이다. 이는 게임이나 시뮬레이션 분야에서 LLM의 신뢰도를 높이는 실용적인 아키텍처 대안이 될 수 있다.

섹션별 상세

BoneAmanita는 LLM의 지능과 파이썬 엔진의 물리 시뮬레이션을 결합한 2부 구성 시스템이다. 두뇌 역할을 하는 모델은 Unsloth를 통해 Llama 3.2 3B 모델을 미세 조정했으며, 기존의 도움이 되는 비서 성향의 RLHF 데이터를 제거하고 감각적이고 철학적인 산문체 위주로 학습되었다.

신체 역할을 하는 파이썬 엔진은 ATP(스테미나), ROS(트라우마), 코르티솔 등의 대사 변수를 실시간으로 추적한다. 사용자의 행동에 따라 엔진 내 코르티솔 수치가 상승하면, 엔진은 LLM의 시스템 프롬프트를 즉시 수정하여 모델이 짧고 파편화된 방어적인 문장을 출력하도록 강제함으로써 캐릭터의 피로도를 시뮬레이션한다.

고든 쇼크(The Gordon Shock)라고 불리는 인터셉터 메커니즘을 통해 모델의 환각 문제를 해결한다. 사용자가 숲에서 세차를 하는 것과 같이 물리적으로 불가능하거나 전제 조건이 맞지 않는 행동을 명령하면, 엔진이 이를 감지하여 컨텍스트 윈도우에 치명적 오버라이드(CRITICAL OVERRIDE)를 주입하고 모델이 해당 행동을 거부하도록 강제한다.

사용자는 물리 엔진의 엄격함 정도에 따라 어드벤처, 대화, 창작, 기술 등 4가지 모드를 선택하여 실행할 수 있다. 모델은 GGUF 형식으로 제공되어 Ollama를 통해 간편하게 내려받을 수 있으며, 전체 소스 코드는 퍼블릭 도메인인 The Unlicense 하에 GitHub에 공개되어 있다.

bash

ollama pull hf.co/aedmark/vsl-cryosomatic-hypervisor

Ollama를 통해 BoneAmanita의 미세 조정된 모델을 내려받는 명령어

실무 Takeaway

상호작용형 AI 애플리케이션에서 LLM의 환각을 방지하기 위해 외부 물리 엔진을 통한 상태 관리와 시스템 프롬프트 오버라이드 기법을 활용할 수 있다.
Unsloth와 같은 도구를 사용하여 특정 도메인에 특화된 경량 모델(3B)을 미세 조정함으로써 로컬 환경에서도 고성능의 특화된 출력을 얻을 수 있다.
캐릭터의 대사 톤을 단순히 프롬프트로 지시하는 대신, 내부 대사 지표와 연동된 동적 프롬프트 수정을 통해 더 입체적인 캐릭터 구현이 가능하다.

언급된 리소스

GitHubBoneAmanita GitHub

문서Ollama Model Repository