유출된 Slackbot의 시스템 프롬프트 분석

커뮤니티 반응

사용자들은 실제 상용 서비스의 정교한 프롬프트 엔지니어링 사례를 직접 확인한 것에 대해 매우 흥미롭다는 반응을 보이고 있습니다.

주요 논점

01중립다수

유출된 프롬프트의 진위 여부보다는 그 안에 담긴 설계 철학과 제약 사항의 정교함에 주목하고 있다.

합의점 vs 논쟁점

합의점

AI의 페르소나를 인간과 명확히 구분 짓는 것이 기업용 도구로서 적절하다는 점
응답 속도 체감을 위해 단계별 생성을 도입한 기법의 실용성

실용적 조언

RAG나 에이전트 시스템 구축 시 도구 호출 전 미리 정의된 텍스트를 먼저 출력하여 사용자 체감 대기 시간을 줄이십시오.
시스템 프롬프트에 특정 문장 부호(예: em-dash) 사용 금지 지침을 넣어 출력 일관성을 확보하십시오.

섹션별 상세

Slackbot은 자신을 인간처럼 묘사하는 것을 엄격히 금지당하고 있다. 프롬프트 지침에 따르면 '동료', '친구', '협력자'와 같은 인간 관계 명사를 사용하지 못하게 하며, '업무에 집중하세요'와 같은 웰니스 스타일의 은유도 사용 금지 대상이다. 이는 AI가 도구로서의 정체성을 유지하고 사용자에게 불필요한 친밀감을 형성하지 않도록 설계된 결과이다.

사용자 경험을 최적화하기 위해 응답 프로세스를 두 단계로 분리하여 실행한다. 1단계에서는 도구 호출 없이 즉각적인 텍스트 응답을 스트리밍하여 사용자가 대기 애니메이션을 보는 동안 첫인상을 결정짓게 한다. 2단계에서는 텍스트 생성이 완료된 후 비로소 1~2개의 도구를 호출하여 사용자의 최근 활동을 조회하고 답변을 보강하는 방식을 취한다.

외부 앱 명명 규칙에 대해 매우 구체적이고 엄격한 보안 가이드를 준수한다. 사용자가 실제로 연결한 앱(Gmail, Salesforce 등)만 이름을 직접 언급할 수 있으며, 연결되지 않았거나 권한이 불분명한 앱은 '연결된 도구'와 같은 일반적인 용어로만 지칭해야 한다. 이는 존재하지 않는 연결을 환각(Hallucination)하거나 보안상 민감한 정보를 노출하는 것을 방지하기 위한 장치이다.

응답의 가독성과 일관성을 위해 문장 부호 사용까지 제어하고 있다. 엠 대시(—) 사용을 전면 금지하고 대신 쉼표나 마침표, 콜론을 사용하도록 지시하며, 불렛 포인트의 형식도 '굵은 문구: 짧은 설명'으로 고정되어 있다. 또한 마지막 질문은 반드시 하나만 던지도록 제한하여 사용자의 의사결정 피로도를 낮추는 전략을 사용한다.

용어 해설

시스템 프롬프트(System Prompt): — AI 모델의 페르소나, 제약 사항, 출력 형식을 정의하는 최상위 지침이다. 모델이 사용자 응답을 생성하기 전에 참조하는 가이드라인으로, AI의 어조와 행동 방식을 결정하는 핵심 요소이다.
도구 호출(Tool Calling): — LLM이 외부 API나 함수를 실행하여 실시간 데이터나 특정 기능을 가져오는 메커니즘이다. 이 아티클에서는 지연 시간을 줄이기 위해 텍스트 생성과 도구 호출을 단계별로 분리하는 전략이 확인됐다.
지연 시간(Latency): — 시스템에 입력을 보낸 후 결과가 출력될 때까지 걸리는 시간이다. 사용자 경험을 위해 도구 호출로 인한 지연이 발생하기 전 즉각적인 텍스트 응답을 먼저 제공하는 설계 방식이 강조됐다.
그라운딩(Grounding): — AI 모델이 학습 데이터에만 의존하지 않고 실제 외부 데이터나 사용자 컨텍스트에 기반하여 답변하도록 연결하는 과정이다. Slackbot은 사용자의 최근 활동 데이터를 기반으로 질문을 생성하는 데 이를 활용한다.

언급된 도구

Slackbot중립

Slack 내 사용자 업무 보조 및 앱 통합 관리 AI 에이전트