섹션별 상세
프롬프팅은 단일 메시지가 아닌 다층적 인프라로 이해해야 한다. 소프트웨어 아키텍처가 메인 함수 하나로 구성되지 않듯 에이전트의 행동 역시 시스템 프롬프트, 도구 정의, 프로젝트별 지식(Skills), 사용자 요청이라는 네 가지 계층이 상호작용하며 결정된다.
시스템 프롬프트는 에이전트의 정체성과 핵심 행동 패턴을 정의하는 기반이다. 모든 세부 사항을 나열하기보다 에이전트가 다른 계층의 정보 중 무엇에 집중해야 하는지 알려주는 하이라이트 릴 역할을 수행해야 하며 핵심 도구에 대한 선호도를 명시하는 것이 효과적이다.
LLM의 초두 효과(Primacy Effect)와 최신 효과(Recency Effect)를 활용하여 프롬프트를 설계해야 한다. 모델은 프롬프트의 시작과 끝 부분에 있는 지시사항에 더 높은 주의를 기울이므로 가장 중요한 보안 규칙이나 핵심 가이드라인은 맨 앞과 맨 뒤에 중복 배치하여 강조한다.
markdown
You are a security-focused code reviewer. Your primary responsibility is identifying security vulnerabilities in pull requests. It is CRITICAL that you flag any potential SQL injection vulnerabilities. These are your highest priority.
## `trivy-scan` tool
ALWAYS run trivy-scan before concluding your review. Never mark a review as complete without scanning for known CVEs in dependencies. Use it early in your review to identify dependency-level issues before diving into code-level analysis.
[... identity, capabilities, other instructions ...]
Remember: You are a security reviewer. Always run trivy-scan and always flag SQL injection risks.초두 효과와 최신 효과를 활용하여 보안 취약점 점검 지침을 강조한 시스템 프롬프트 예시
계층 간 지시사항이 충돌할 경우 일반적으로 더 구체적인 계층인 사용자 메시지가 우선권을 갖는다. 예를 들어 시스템 프롬프트에 엄격한 코드 스타일을 지정했더라도 사용자가 프로토타입용으로 스타일을 무시하라고 요청하면 모델은 이를 따른다. 다만 강력하게 고정된 시스템 프롬프트의 가드레일은 이러한 덮어쓰기에 저항할 수 있도록 설계해야 한다.
용어 해설
- 시스템 프롬프트(System Prompt)
- — LLM에게 부여하는 근본적인 역할과 행동 지침으로 대화 전반의 정체성을 정의한다. 모델이 사용자 요청을 처리하기 전에 참조하는 최상위 지침이며 에이전트의 톤, 매너, 제약 사항을 설정하는 핵심적인 역할을 수행한다.
- 초두 효과(Primacy Effect)
- — 정보의 나열 중 처음에 제시된 항목을 나중에 제시된 항목보다 더 잘 기억하거나 중요하게 인식하는 인지적 특성이다. LLM 프롬프트 설계 시 가장 중요한 지시사항을 맨 앞에 배치하여 모델의 준수율을 높이는 데 활용된다.
- 최신 효과(Recency Effect)
- — 가장 마지막에 입력된 정보를 더 신선하게 받아들여 의사결정에 큰 영향을 미치는 현상이다. 긴 프롬프트의 끝부분에 핵심 지침을 다시 한번 반복함으로써 모델이 최종 출력을 생성하기 직전에 중요 사항을 상기하도록 유도한다.
- 평가 하네스(Eval Harness)
- — AI 모델의 성능이나 프롬프트의 효과를 정량적으로 측정하기 위한 테스트 프레임워크이다. 다양한 시나리오와 데이터셋을 통해 모델의 응답을 검증하고 개선 방향을 결정하는 데 필수적인 도구로 사용된다.
기술
- LLM
- Augment Context Engine
- Trivy-scan
활용 사례
- 보안 중심 코드 리뷰 에이전트
- 복잡한 워크플로우를 가진 자율 에이전트
- 프로덕션 환경의 LLM 애플리케이션
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 06.수집 2026. 03. 06.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
