본문으로 건너뛰기
Analytics Vidhya조회 3회

쉽게 익히는 Agentic AI 핵심 개념 10가지

AI Agent의 목표 추구, 도구 호출, 작업 분해, 메모리, RAG, MCP, 안전 통제를 한 흐름으로 정리한 입문 가이드

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

AI Agent는 한 번에 답변을 생성하는 Chatbot과 달리 목표를 여러 단계로 나누고, 필요한 Tool을 호출하며, 결과를 관찰해 다음 행동을 조정하는 시스템입니다. 핵심 구조인 Agent Loop는 Observe, Think, Act, Reflect를 반복하고, Task Decomposition은 복잡한 요청을 검색·비교·검증 같은 작은 작업으로 바꿉니다. Agent Memory와 Agentic RAG는 이전 상태와 외부 정보를 활용하며, MCP는 모델과 도구·데이터 소스의 연결을 표준화합니다. Multi-Agent Systems는 전문화된 여러 Agent를 조정하고, Human-in-the-Loop와 Guardrails는 고위험 행동의 승인과 접근 범위를 통제합니다.

섹션별 상세

01
AI Agent는 질문에 대한 답변을 한 번 생성하는 Chatbot과 달리 목표 달성을 위해 실행 과정을 이어가는 시스템입니다. AI 모델이 필요한 행동을 선택하고 외부 도구나 시스템과 상호작용한 뒤 결과를 관찰하며 다음 단계를 정합니다. 런던행 항공편을 ₹60,000 이하로 세 개 찾는 요청에서는 항공편 검색, 가격 필터링, 시간 비교, 수하물 규정 확인, 일정 작성까지 여러 작업이 연결됩니다.
User의 질문이 Chatbot의 처리 단계를 거쳐 단일 답변으로 이어지는 흐름을 표현한 도식입니다.
Diagram이미지는 User의 질문, Chatbot의 Processing, Answer를 직선으로 연결해 일반적인 대화형 응답 구조를 나타냅니다. Article의 AI Agent 설명과 비교하면 Chatbot은 답변을 한 번 생성하는 반면, Agent는 목표를 향해 도구 호출과 결과 확인을 반복한다는 차이를 이해하는 데 도움이 됩니다.
02
Agent Loop는 에이전트가 완성된 해법을 미리 알고 시작하지 않는다는 점에서 고정된 Prompt Chain과 구별됩니다. 에이전트는 웹을 검색하고 관련 문서를 찾은 뒤 필요한 수치를 확인하며, 첫 사이트에 정보가 없으면 다른 검색 방식이나 출처로 전환합니다. OpenAI의 최신 분기 매출을 찾는 예시처럼 중간 결과를 다시 입력으로 사용해 검색과 검증을 반복하는 구조가 작업 적응성을 만듭니다.
Observe, Think, Act, Reflect 네 단계가 순환하는 기본 Agent Loop입니다.
Diagram이미지는 현재 상황의 정보를 모으는 Observe, 다음 행동을 결정하는 Think, 결정을 실행하는 Act, 결과에서 배우고 이해를 갱신하는 Reflect를 원형으로 연결합니다. Article이 말하는 중간 결과 관찰과 다음 행동 조정의 구조를 시각적으로 압축하며, 고정된 Prompt Chain과 Agent Loop의 차이를 설명하는 근거가 됩니다.
03
Tool Calling은 모델이 외부 함수와 인자를 선택해 실제 작업을 실행하도록 만드는 연결 방식입니다. `get_weather(city)`, `search_web(query)`, `send_email(to, subject, body)` 같은 함수가 제공되면 Mumbai의 다음 날 날씨를 조회한 결과를 Email 본문에 넣어 전송할 수 있습니다. Web Search, Coding, Calculator, Database, API가 연결되면서 Agentic System은 답변 생성만이 아니라 데이터 조회와 외부 작업 수행까지 처리합니다.
Task, LLM, Tools, Environment 사이에서 Reasoning, Action, Result가 순환하는 Agent 구조입니다.
Diagram도식은 Task가 LLM으로 들어가고, LLM의 판단이 Tools를 통해 외부 Environment에 작용한 뒤 Result가 다시 Agent로 돌아오는 흐름을 나타냅니다. LLM의 내부 추론만으로 끝내지 않고 도구 실행 결과를 받아 다음 판단에 반영한다는 Tool Calling과 Agent Loop의 연결을 보여줍니다.
User 요청을 Agent가 필요한 정보로 바꾸고 Search Tool과 Search Results를 거쳐 Final Answer를 생성하는 순차 Workflow입니다.
Diagram이미지는 User에서 Agent로 요청이 전달되고, Agent가 필요한 정보를 판단한 뒤 Search Tool을 호출하며 검색 결과를 다시 Agent에 전달하는 과정을 세로로 표현합니다. 검색 결과가 최종 답변의 입력으로 되돌아오는 구조가 Agent의 정보 수집과 결과 통합 단계를 구체화합니다.
날씨 조회와 Email 전송이라는 두 Tool Calling을 거쳐 작업을 완료하는 흐름입니다.
Diagram도식은 Mumbai의 다음 날 날씨를 확인하고 Email을 보내라는 요청을 Agent가 해석한 뒤 `get_weather()`와 `send_email()`을 각각 호출하는 과정을 보여줍니다. 서로 다른 외부 함수를 순서대로 선택하고 실행 결과를 합쳐 최종 작업을 완료한다는 Article의 Tool Calling 예시와 직접 연결됩니다.
04
Task Decomposition은 한 번에 해결하기 어려운 목표를 순차적인 하위 작업으로 바꾸는 과정입니다. CRM 추천 요청은 요구사항 정의, 후보 검색, 가격 수집, 기능 비교, Integration 확인, 후보 평가, 추천 작성으로 나뉘며 각 단계의 결과가 다음 단계의 입력이 됩니다. 작업을 작은 단위로 나누면 복잡한 조사와 비교를 추적하기 쉬워지지만, 각 단계 사이의 의존관계와 결과 검증이 필요합니다.
목표를 정한 뒤 계획, 실행, 모니터링을 거쳐 최종 결과를 선택하는 Agent Workflow입니다.
Diagram도식은 ₹60,000 이하의 노트북을 찾는 목표를 예시로 삼아 후보 검색, 사양과 가격 비교, shortlist 작성, 최종 선택을 순서대로 배치합니다. 목표를 하위 작업으로 나누고 실행 결과를 비교해 답변을 만드는 Task Decomposition과 Agentic Workflow의 관계를 보여줍니다.
Frontier LLM이 웹사이트의 계획과 청사진을 만들고 여러 Smaller LLM이 구현 파이프라인을 수행하는 구조입니다.
Diagram이미지는 LLM이 요청을 이해해 HTML, CSS, JS 기반 계획을 만든 뒤 Personalizer, Artist, Website Builder 같은 Smaller LLM이 실제 구현을 나누어 수행하는 2단계 Pipeline을 나타냅니다. 하나의 모델이 모든 단계를 처리하는 대신 계획과 실행을 분리하거나 역할별 Agent를 배치하는 Task Decomposition과 Multi-Agent 구조를 이해하는 데 유용합니다.
CRM 요구사항 정의부터 후보 탐색, 가격 수집, 기능 비교, 연동 확인, 평가와 추천 작성까지 이어지는 작업 흐름입니다.
Diagram도식은 CRM 추천 목표를 여러 실행 단계로 분해해 순차적으로 연결합니다. Article의 Task Decomposition 예시와 일치하며, 복잡한 추천 요청에서 요구사항과 가격, 기능, Integration 정보를 모은 뒤 후보 평가와 최종 추천으로 이어지는 처리 순서를 보여줍니다.
05
Agentic System에서 State는 현재 작업의 진행 상황을 유지하고 Memory는 즉시 처리 범위를 넘어 유용한 정보를 보존합니다. 장시간 작업에서는 이전 검색 결과나 사용자의 선호를 다시 활용해야 하므로 각 상호작용을 독립적으로 처리하는 구조만으로는 충분하지 않습니다. 개인 비서, Customer Support Agent, Coding Agent, 장기 Workflow에서는 Short-term 정보와 Long-term 정보의 관리 방식이 작업 연속성과 직접 연결됩니다.
LLM과 Controller를 중심으로 Knowledge, Tools, Short-term Memory, Long-term Memory가 연결된 Agent 구조입니다.
Diagram이미지는 Agent의 Core 안에 LLM과 Controller가 있고, 외부 Knowledge와 Tools serta Short-term·Long-term Memory가 연결되는 구성을 표현합니다. 현재 작업의 State와 장기적으로 보존되는 Memory가 별도 구성요소로 작동하며, Agent가 정보와 도구를 활용해 지속적인 Workflow를 수행한다는 설명을 보완합니다.
06
Agentic RAG는 고정된 검색 파이프라인 대신 에이전트가 무엇을 검색할지와 언제 다시 검색할지를 결정하는 구조입니다. 유럽 지역의 Q1·Q2 매출 비교 요청에서는 두 분기 보고서, 유럽 수치, 지역 성과 자료, 회사 설명을 차례로 찾고 부족한 결과가 나오면 검색을 추가한 뒤 정보를 비교합니다. 일반 RAG보다 여러 번의 적응형 검색과 질의 재작성에 적합해 복잡한 조사형 요청의 처리 범위를 넓힙니다.
Multi-document에서 EDA와 Embedding을 거쳐 Vector Database와 검색·요약 Tool을 연결하고 LLM 응답을 생성하는 RAG 기반 Agent 구조입니다.
Diagram도식은 여러 문서를 EDA와 Embedding 단계로 처리한 뒤 Vector Database에 저장하고, Vectorstore Tool과 Summary Tool을 Agent가 호출하는 흐름을 보여줍니다. GPT-4, Llama 3, Mistral 같은 LLM이 검색 결과를 바탕으로 User Question에 응답하는 구조가 일반 RAG와 Agentic RAG의 도구 중심 처리 방식을 시각화합니다.
07
MCP는 AI 애플리케이션과 외부 도구·데이터 소스·서비스를 연결하는 표준화된 방식입니다. 모델과 애플리케이션마다 별도의 맞춤형 연결을 만드는 대신 MCP 기반 Integration이 도구와 리소스를 공통 형식으로 노출해 Git Repository, Issue Tracking, Documentation, Database, 내부 개발 도구를 연결할 수 있습니다. Agent가 외부 세계에 접근하는 시스템이 늘어날수록 연결 방식을 일관되게 유지하는 실용적 기반이 됩니다.
Model Context Protocol이 Anthropic Claude와 OpenAI 같은 모델을 REST, Apps, Storage 같은 외부 서비스와 연결하는 구조입니다.
Diagram이미지는 중앙의 Model Context Protocol을 통해 Models·LLMs와 Tools·Services가 표준 방식으로 연결되는 형태를 보여줍니다. Article에서 MCP가 모델과 각 애플리케이션 사이의 개별 맞춤형 Integration 문제를 줄이고 외부 도구와 데이터 소스를 공통 방식으로 노출한다고 설명한 부분과 직접 대응합니다.
08
Multi-Agent System은 하나의 에이전트가 모든 단계를 처리하는 대신 여러 전문 에이전트가 복잡한 작업을 나누어 수행하는 구조입니다. 전문화된 에이전트 사이에서 작업을 전달하면 복잡한 Workflow에 대응할 수 있지만, 추가 Model Call과 통신 과정이 비용과 지연을 늘리고 조정 실패 가능성도 높입니다. 따라서 에이전트 수를 늘리는 것보다 작업의 복잡도와 필요한 전문화 수준에 맞는 구조를 선택하는 것이 중요합니다.
입력 데이터를 Groq, CrewAI, LlamaIndex 기반 구성요소로 보내 Agentic Workflow를 거쳐 Output을 생성하는 Multi-Agent 아키텍처입니다.
Diagram도식은 하나의 입력이 여러 Framework 또는 구성요소로 분기된 뒤 Agentic Workflow에서 결합되어 출력으로 이어지는 구조를 나타냅니다. 여러 전문 Agent나 도구를 조정하면 복잡한 작업을 나눌 수 있지만 Model Call, 통신, Coordination Failure가 늘어날 수 있다는 Multi-Agent Systems의 trade-off를 이해하는 데 활용됩니다.
09
Human-in-the-Loop는 에이전트가 고위험 행동을 준비한 뒤 사람의 승인이나 검증을 받아 다음 단계로 진행하는 방식입니다. 항공편을 ₹21,450에 찾은 뒤 예약 여부를 묻거나 민감한 고객정보가 포함된 Email 전송 전에 승인을 요청하는 흐름이 이에 해당합니다. Autonomous 실행을 유지하면서도 예약, 민감정보 전송처럼 영향이 큰 행동에는 명시적 동의를 삽입할 수 있습니다.
10
Guardrails는 에이전트가 접근할 수 있는 Tool, Data, Permission, Spending Limit, Sensitive Information, Production 환경을 제한하는 통제 규칙입니다. 규칙에 따라 특정 도구 호출이나 데이터 접근을 허용하고, 승인 없이는 민감한 작업을 중단하도록 실행 경계를 설정합니다. 외부 시스템과 연결된 에이전트가 작업을 계속 수행하되 무분별한 행동으로 넘어가지 않게 만드는 안전 장치입니다.

용어 해설

AI 에이전트(AI Agent)
— AI 모델을 사용해 목표를 달성하는 시스템입니다. 모델이 다음 행동을 결정하고 외부 도구나 시스템을 호출한 뒤 결과를 관찰하며 작업을 이어갑니다. 한 번에 답변을 생성하는 Chatbot보다 여러 단계의 실행 과정과 적응 능력이 중요합니다.
에이전트 루프(Agent Loop)
— 에이전트가 현재 상황을 관찰하고 다음 행동을 결정한 뒤 도구를 실행하며 결과를 다시 확인하는 반복 구조입니다. 처음부터 완성된 해법을 정하지 않고 중간 결과에 따라 검색 방식이나 다음 단계를 바꾸는 점이 핵심입니다.
Tool Calling
— AI 모델이 외부 함수에 필요한 도구와 인자를 선택해 실행하는 방식입니다. 웹 검색, Coding, Calculator, Database, API, Email 같은 기능을 연결하면 모델이 텍스트 생성 밖의 작업을 수행할 수 있습니다.
작업 분해(Task Decomposition)
— 하나의 복잡한 목표를 여러 개의 작은 작업으로 나누는 방식입니다. 예를 들어 CRM을 고를 때 요구사항 정의, 후보 검색, 가격 수집, 기능 비교, 연동 확인, 평가, 추천 작성 순서로 처리하면 단계별 실행과 검증이 가능해집니다.
에이전트 메모리(Agent Memory)
— 에이전트가 현재 작업에 필요한 정보와 이전 작업에서 유용했던 정보를 유지하는 구조입니다. State는 현재 작업의 진행 정보를 추적하고, Memory는 즉시 처리 범위를 넘어 정보를 보존해 개인 비서나 장시간 Workflow에 활용됩니다.
Agentic RAG
— 검색 과정을 에이전트가 직접 결정하는 Retrieval-Augmented Generation 방식입니다. 필요한 문서를 찾고 질의를 다시 쓰거나 확장하며, 첫 검색 결과가 부족하면 추가 검색을 수행해 복잡한 비교와 조사에 대응합니다.
Guardrails
— 에이전트가 사용할 수 있는 도구와 데이터, 권한, 지출 한도, 민감정보, Production 접근 범위를 제한하는 통제 장치입니다. 특정 행동을 허용하거나 중단해야 하는 조건을 정해 외부 시스템을 무분별하게 조작하지 않도록 합니다.

기술

  • ChatGPT
  • Claude
  • Gemini
  • RAG
  • MCP (Model Context Protocol)
  • Web Search
  • APIs
  • Databases
  • Coding

활용 사례

  • 항공편 검색과 일정 작성
  • CRM 후보 비교와 추천
  • 날씨 조회 및 Email 전송
  • 분기별 매출 비교와 원인 조사
  • Coding Agent Workflow
  • 고객지원 및 개인 비서
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 08. 28.수집 2026. 08. 28.출처 타입 RSS

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.