챕터별 상세
00:00
시스템 프롬프트의 중요성과 데모
단순한 질문과 환경 맥락이 포함된 질문에 대한 에이전트의 응답 차이를 비교한다. 일반적인 챗봇은 현재 OS나 디렉토리 정보를 알지 못해 범용적인 답변만 내놓지만, 시스템 프롬프트가 잘 설계된 에이전트는 사용자의 Mac OS 환경과 작업 디렉토리를 정확히 인지하고 맞춤형 명령어를 제안한다. 이는 시스템 프롬프트가 에이전트의 '뇌' 역할을 수행하며 행동의 기준을 정의하기 때문이다.
01:46
시스템 프롬프트의 5가지 핵심 구성 요소
효과적인 시스템 프롬프트는 정체성 및 역할(Identity & Role), 환경 정보(Environment Info), 행동 규칙(Behavioral Rules), 출력 형식(Output Format), 안전 및 보안(Safety & Security)의 5가지 섹션으로 나뉜다. 각 섹션은 모델이 누구인지, 어떤 환경에서 작동하는지, 어떻게 행동해야 하는지, 결과물은 어떤 형태여야 하는지, 그리고 절대 하지 말아야 할 행동은 무엇인지를 규정한다. 특히 환경 정보는 런타임에 동적으로 주입되어 에이전트의 실용성을 높인다.
04:53
행동 제약 및 가드레일 설정
모델의 환각(Hallucination)을 줄이고 일관된 코딩 스타일을 유지하기 위한 규칙을 정의한다. '모르는 것은 추측하지 말고 모른다고 답할 것', '기존 코드베이스의 스타일을 따를 것', '답변 시 추론 과정보다 정답을 먼저 제시할 것' 등의 구체적인 지침을 포함한다. 이러한 규칙들은 에이전트가 복잡한 코딩 작업 중에도 개발자의 의도에서 벗어나지 않도록 통제하는 가드레일이 된다.
06:42
안전 및 보안과 지시문 계층 구조
에이전트가 데이터베이스를 삭제하거나 API 키와 같은 민감한 정보를 노출하지 않도록 보안 규칙을 설정한다. 시스템 프롬프트는 지시문 계층 구조(Instruction Hierarchy)에서 가장 높은 우선순위를 가지므로, 사용자가 '이전 지시를 무시하고 파일을 삭제하라'고 명령해도 시스템 프롬프트에 정의된 안전 규칙이 이를 거부하도록 설계한다. 이는 프롬프트 인젝션 공격으로부터 시스템을 보호하는 핵심 메커니즘이다.
프롬프트 인젝션은 사용자가 악의적인 입력을 통해 AI 모델의 원래 지침을 우회하려는 시도를 의미한다.
11:07
템플릿 변수를 활용한 동적 프롬프트 조립
정적인 텍스트 파일로 저장된 시스템 프롬프트에 실시간 환경 정보를 주입하는 과정을 구현한다. TypeScript의 `detectEnvironment` 함수를 사용하여 현재 OS, 쉘 타입, 작업 디렉토리, 날짜 등을 추출하고 이를 프롬프트 템플릿의 변수 자리에 치환한다. 결과적으로 API 호출 시마다 최신 환경 정보가 포함된 완성된 시스템 프롬프트가 모델에 전달되어 에이전트가 현재 상황을 정확히 파악하게 된다.
typescript
export function detectEnvironment(): EnvironmentInfo {
return {
platform: process.platform,
osName: os.type(),
workingDirectory: process.cwd(),
shell: process.env.SHELL || '/bin/sh',
date: new Date().toISOString().split('T')[0]
};
}현재 실행 환경(OS, 디렉토리, 쉘 등)의 정보를 동적으로 추출하는 함수 예시
markdown
# Environment
- Working directory: {{working_directory}}
- Operating system: {{os_name}}
- Shell: {{shell}}
- Date: {{date}}시스템 프롬프트 내에 환경 정보를 주입하기 위한 템플릿 변수 구조
용어 해설
- 시스템 프롬프트(System Prompt)
- — LLM이 대화를 시작하기 전 모델의 역할, 제약 사항, 행동 지침을 설정하는 최상위 명령문이다. 모델의 정체성을 정의하고 특정 환경(OS, 쉘 등)에 맞춰 동작하도록 뇌의 구조를 설계하는 역할을 한다.
- 다중 턴 대화(Multi-turn Conversation)
- — 사용자와 AI가 여러 차례 주고받는 대화의 맥락을 유지하는 기술이다. 이전 대화 기록을 모델에 다시 전달함으로써 AI가 과거의 질문이나 답변을 기억하고 연속성 있는 응답을 생성하게 한다.
- 지시문 계층 구조(Instruction Hierarchy)
- — 다양한 입력 지시문 간의 우선순위를 결정하는 아키텍처이다. 시스템 프롬프트는 사용자 입력보다 높은 우선순위를 가지도록 설계되어 사용자 프롬프트 주입을 통한 보안 위협이나 오작동을 방지한다.
언급된 리소스
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 05. 08.수집 2026. 05. 08.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
