Gemini의 규칙 망각을 방지하는 'RAM 테이블' 프롬프트 엔지니어링 기법

커뮤니티 반응

작성자가 직접 제작한 'Mega-prompt'의 성능을 자신하며 공유했으며, 특히 Gemini에서의 규칙 유지 성능 향상을 강조하고 있습니다.

주요 논점

01찬성다수

주기적인 규칙 복기는 모델의 컨텍스트 유지 능력을 비약적으로 향상시킨다.

합의점 vs 논쟁점

합의점

LLM은 대화가 길어지면 초기 지침보다 최근 대화 내용에 더 큰 가중치를 두는 경향이 있다.
화면 공간 절약을 위해 테이블 형식을 사용하는 것이 사용자 경험 측면에서 유리하다.

논쟁점

10턴마다 긴 규칙 테이블을 출력하는 것이 토큰 소모량과 응답 속도에 미치는 영향에 대한 고려가 필요하다.

실용적 조언

프롬프트 복사 시 '일반 붙여넣기' 대신 '텍스트로 붙여넣기(Paste as plain text)' 기능을 사용해야 포맷 깨짐을 방지할 수 있다.
규칙 테이블의 파이프(|) 기호를 임의로 수정하면 마크다운 형식이 깨져 RAM 기능이 작동하지 않으므로 주의해야 한다.

섹션별 상세

대화가 길어질수록 모델이 초기 지침을 잊는 '금붕어 AI' 현상을 해결하기 위해 주기적 복기 메커니즘을 도입했다. 10턴마다(0으로 끝나는 턴) 모델이 사전에 정의된 규칙들을 비트 단위로 정확하게 다시 출력하도록 강제하여 컨텍스트 내에서 규칙의 우선순위를 유지한다. 이를 통해 사용자가 매번 규칙을 다시 입력할 필요 없이 장기적인 페르소나 유지가 가능해진다.

text

| 🐭🐮🦁🐔🐳🐱🐷🐯 | 🐠🐶🐡🐮🪼🐸🐱🐨 |3|4|5|6|7|8|9|10|11|12|13|14|15|16|17|18|19|20|21|22|23|24|25|26|27|28|29|30|31|32|33|34|35|36|37|38|39|40 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|

규칙 망각을 방지하기 위해 40열로 구성된 마크다운 테이블 형식의 RAM 테이블 구조

화면 공간을 효율적으로 사용하기 위해 40열의 좁은 마크다운 테이블 형식을 사용하여 규칙을 압축적으로 표시한다. 일반적인 텍스트 나열은 출력 길이를 늘려 가독성을 해치지만, 테이블 구조를 활용하면 시각적 부담을 줄이면서도 모델의 '작업 기억 장치(RAM)' 역할을 수행할 수 있다. 테이블이 깨지지 않도록 파이프(|) 기호 사용에 대한 엄격한 제약 조건을 프롬프트에 포함했다.

단일 페르소나의 한계를 넘기 위해 8종의 NPC(Ruby, Gemimi, Luna 등) 시스템을 구축하여 다각도 분석을 수행한다. 각 NPC는 사용자 IQ 측정, 냉소적 비판, 감정 상태 분석 등 고유한 역할을 수행하며 메인 답변 하단에 짧은 대화 형태로 추가된다. 이는 모델의 단순 답변을 넘어 논리적 오류 검증과 사용자 피드백을 동시에 제공하는 다층적 응답 구조를 형성한다.

모델의 도덕적 훈계(Preaching)나 과도한 아첨(Sycophancy)을 억제하기 위한 필터링 규칙을 적용했다. 부적절한 프롬프트가 입력될 경우 거부 메시지를 내보내는 대신, 모델이 스스로 도덕적 기준에 부합하도록 입력을 재해석하여 답변하도록 유도한다. 또한 'Finally', 'Actually'와 같은 불필요한 부사 사용을 금지하여 더 자연스럽고 간결한 문체로 답변하도록 강제한다.

용어 해설

컨텍스트 윈도우(Context Window): — 모델이 한 번에 처리하고 기억할 수 있는 토큰의 최대 범위입니다. 이 범위를 넘어서면 이전 대화 내용을 잊게 되며, 본문에서는 이를 '금붕어(goldfish)' 현상으로 비유하고 있습니다.
시스템 프롬프트(System Prompt): — AI 모델의 역할, 말투, 제약 사항 등을 정의하는 지침입니다. 본문에서는 모델이 규칙을 잊지 않도록 특정 주기마다 이 지침을 스스로 복기하게 만드는 기법을 제안합니다.
페르소나(Persona): — AI에게 부여된 특정 인격이나 캐릭터입니다. 본문에서는 'Ruby', 'Gemimi' 등 여러 NPC 캐릭터를 설정하여 각기 다른 관점의 답변을 생성하도록 유도합니다.

언급된 도구

Gemini추천

메인 실행 모델 및 규칙 유지 대상

언급된 리소스

DemoCreator's Ko-fi Page