AI 애플리케이션 기술 스택의 5가지 계층 구조 분석

커뮤니티 반응

AI 애플리케이션을 단순 프롬프트 엔지니어링이 아닌 체계적인 엔지니어링 스택으로 바라보는 관점에 대해 긍정적인 반응이 나타났다.

주요 논점

01찬성다수

AI 앱이 실질적인 가치를 내기 위해서는 모델 중심에서 시스템 중심으로 패러다임이 전환되어야 한다는 주장에 동의한다.

합의점 vs 논쟁점

합의점

LLM은 시스템의 두뇌일 뿐이며 외부 세계와의 연결을 위한 표준 프로토콜(MCP)이 필수적이다.
에이전트의 작업 오케스트레이션과 엔지니어링 거버넌스(Harness)가 제품화의 성패를 가른다.

실용적 조언

AI 앱 설계 시 단순 프롬프트 작성에 그치지 말고 MCP를 활용한 외부 데이터 연동 표준화를 먼저 고려하라.
비즈니스 로직을 개별 'Skill' 단위로 모듈화하여 에이전트가 필요에 따라 호출할 수 있는 구조를 설계하라.

섹션별 상세

AI 애플리케이션의 핵심을 LLM, MCP, Skill, Agent, Harness의 5개 계층으로 구분했다. 최하단의 LLM은 인지적 핵심인 '뇌' 역할을 수행하며, 그 위의 MCP는 외부 도구와 데이터를 표준화된 방식으로 연결하는 인터페이스 역할을 담당한다. Skill 계층은 비즈니스 로직을 재사용 가능한 도구로 변환하고, Agent는 작업 계획과 실행 루프를 관리하며, 최상단의 Harness는 엔지니어링 거버넌스를 제공한다.

LLM부터 Harness까지 5개 계층으로 구성된 AI 애플리케이션 기술 스택과 워크플로우 다이어그램이다. — Diagram각 계층(LLM, MCP, Skill, Agent, Harness)의 역할과 이들이 어떻게 상호작용하여 사용자 요청을 처리하는지 시각화하고 있다. 하단의 워크플로우 예시는 사용자 입력부터 결과 반환까지의 7단계 실행 체인을 구체적으로 보여주며 시스템적 접근의 필요성을 뒷받침한다.

단순한 질의응답(Q&A)을 넘어선 작업 흐름(Task Flow)의 중요성을 강조했다. 사용자 입력이 들어오면 LLM이 의도를 파악하고, Agent가 계획을 세우며, Skill과 MCP를 통해 외부 기능을 호출하여 실행 및 검증을 거치는 일련의 실행 체인이 구축되어야 한다. 이러한 구조를 통해 AI는 계획, 실행, 점검, 개선이 가능한 실질적인 시스템으로 기능하게 된다.

많은 AI 앱이 프로덕션 단계로 나아가지 못하는 이유로 표준화된 연결(MCP)과 재사용 가능한 역량(Skill)의 부재를 지적했다. 엔지니어링 지원 체계인 Harness가 없으면 시스템의 안정성과 확장성을 확보하기 어렵다는 점이 논의되었다. 결과적으로 모델의 성능보다 이러한 전체 시스템의 실행 체인을 얼마나 견고하게 구축하느냐가 제품의 성공을 결정짓는 핵심 요소이다.

용어 해설

모델 컨텍스트 프로토콜(MCP): — LLM이 외부 도구 및 데이터 소스와 표준화된 방식으로 통신할 수 있게 해주는 연결 프로토콜이다. 에이전트가 다양한 외부 기능을 일관된 인터페이스로 호출할 수 있게 하여 시스템의 확장성을 높이는 핵심 기술이다.
하네스(Harness): — AI 애플리케이션의 엔지니어링 거버넌스 계층으로, 테스트, 평가, 모니터링 및 배포를 담당한다. 단순 데모를 넘어 실제 프로덕션 환경에서 시스템의 안정성과 신뢰성을 보장하기 위한 관리 체계를 의미한다.
에이전트 오케스트레이션(Agent Orchestration): — 복잡한 목표를 달성하기 위해 AI 에이전트가 작업을 분해하고, 적절한 도구를 선택하며, 실행 루프를 관리하는 프로세스이다. LLM의 추론 능력을 실제 실행 가능한 작업 흐름으로 변환하는 역할을 한다.

언급된 도구

MCP추천

모델과 외부 도구/데이터 간의 표준화된 연결 프로토콜