이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
AI 보안 스타트업 HiddenLayer가 AI 에이전트와 도구 사용이 늘면서 커진 보안 시장을 겨냥해 1억 달러 규모의 Series B 투자를 유치했습니다. Gartner는 AI 도구 보안 제품에 대한 기업 지출이 올해 28억3,000만 달러로 2025년보다 83% 증가하고, 내년에는 약 47억8,000만 달러에 이를 것으로 전망했습니다. HiddenLayer의 연간 반복 매출은 지난 1년 동안 10배 이상 늘어 수천만 달러대가 됐으며, 회사는 기존 모델 보안 제품에 Prompt Injection, 에이전트 조작, 악성 도구 사용 대응을 추가했습니다. 특히 약 50개 AI 파일 프레임워크를 스캔해 오픈소스 모델의 위장이나 모델 내부에 숨은 모델을 확인하고, 새 투자금으로 판매·유통과 연구개발을 확대할 계획입니다.
섹션별 상세
AI 에이전트가 기업 환경에 배치되면서 모델뿐 아니라 에이전트가 호출하는 도구와 애드온까지 감시해야 하는 상황이 커졌습니다. Gartner는 AI 도구 보안 제품에 대한 기업 지출을 올해 28억3,000만 달러로 추산했으며 이는 2025년보다 83% 높은 수준입니다. 내년 지출은 약 47억8,000만 달러까지 늘어날 전망이어서 AI 보안이 별도 시장으로 확대되는 배경이 됐습니다.
HiddenLayer는 모델, 에이전트, 워크플로를 적대적 공격과 취약점, 악성 코드 주입으로부터 보호하는 제품을 기존에 판매해 왔습니다. 회사는 discovery, runtime protection, attack simulation, supply chain security 기능을 Prompt Injection, 에이전트 조작, 악성 도구 사용까지 확장했습니다. 공동창업자 겸 CEO Chris Sestito는 추론 과정 자체는 전통적인 머신러닝 모델과 생성형 AI, 에이전트 워크플로에서 이어지므로 사업을 전환하기보다 보호 범위를 넓혔다고 밝혔습니다.
HiddenLayer의 연간 반복 매출은 지난 1년 동안 10배 이상 성장했고, 현재 수천만 달러 규모라고 Sestito가 전했습니다. 성장분의 90% 이상은 지난 1년 사이 새로 계약한 고객에게서 나왔으며 금융 서비스와 AI 제품을 만드는 대형 기술 기업이 주요 고객군입니다. 회사는 미국 국방부와 정보기관과도 계약을 맺고 있어 AI 보안 수요가 상업 부문을 넘어 공공 부문으로 이어지고 있음을 드러냅니다.
이번 Series B는 Delta-v Capital이 주도했고 Ten Eleven Ventures, Morgan Stanley, Microsoft의 M12, Booz Allen Hamilton 등이 참여해 총 1억 달러를 조달했습니다. HiddenLayer는 투자금을 판매와 유통 확대에 더 많이 배분하면서도 엔지니어링과 연구를 계속 확장하고 유럽과 EMEA 지역 진출을 추진할 계획입니다. 매출 확대를 실제 사업 기반으로 전환하려면 대형 사이버보안 기업의 인수 전략과 Noma, Zenity 같은 인접 분야 스타트업의 경쟁을 함께 넘어야 합니다.
HiddenLayer는 AI 시스템이 실행되는 동안 작동을 감시하는 runtime security를 전통적인 EDR에 대응하는 AI 보안 계층으로 보고 있습니다. 오픈소스·오픈웨이트 모델을 위해 약 50개 AI 파일 프레임워크를 파싱하고 스캔해 파일이 주장하는 모델과 실제 모델이 일치하는지, 모델 안에 숨은 다른 모델이 있는지 확인합니다. 이 검증은 공개 모델을 직접 운영하는 환경에서 악성 모델이나 위장 파일이 공급망을 통해 들어오는 위험을 줄이는 핵심 기능입니다.
AI 보안 시장이 커지면서 Cisco, Palo Alto Networks, Check Point 같은 대형 보안 기업은 자체 개발보다 인수를 선택할 가능성이 있고, Microsoft, OpenAI, AWS 플랫폼에 일부 AI 보안 기능이 흡수될 가능성도 있습니다. Sestito는 AI 인프라가 discovery, identity, policy control 같은 거버넌스 기능으로 발전하겠지만 HiddenLayer가 구축하는 실행 보안 도구와는 구분될 것으로 전망했습니다. HiddenLayer가 AI와 함께 수직적으로 성장한 뒤 AI 의존도가 높은 사이버보안 영역으로 수평 확장하려면 현재의 선점 효과를 지속 가능한 사업으로 증명해야 합니다.
용어 해설
- 런타임 보안(Runtime Security)
- — AI 시스템이 실행되는 동안 입력과 동작을 감시해 공격, 취약점, 악성 코드 주입을 탐지하고 차단하는 보안 방식입니다. HiddenLayer는 이를 전통적인 EDR과 유사하지만 AI 모델과 에이전트에 특화된 보호 계층으로 확장하고 있습니다.
- 프롬프트 인젝션(Prompt Injection)
- — 공격자가 악의적인 지시를 입력해 AI 모델이나 에이전트의 원래 목적과 다른 행동을 유도하는 공격입니다. 에이전트가 외부 도구를 사용하는 환경에서는 데이터 접근이나 작업 실행까지 변조될 수 있어 런타임 보호의 핵심 대상이 됩니다.
- 에이전트 조작(Agent Manipulation)
- — AI 에이전트의 판단 과정이나 실행 흐름에 개입해 의도하지 않은 작업을 수행하게 만드는 위협입니다. HiddenLayer는 기존 보안 제품의 범위를 에이전트와 에이전트가 호출하는 도구까지 넓혀 이 위험을 감시하려고 합니다.
- 소프트웨어 공급망 보안(Supply Chain Security)
- — 외부에서 가져온 모델, 파일, 도구, 라이브러리의 출처와 무결성을 확인해 악성 구성 요소가 시스템에 유입되는 것을 막는 보안 영역입니다. 오픈소스·오픈웨이트 모델에서는 겉으로 표시된 모델과 실제 포함된 모델이 다를 가능성까지 검사 대상이 됩니다.
- 오픈웨이트 모델(Open-Weight Model)
- — 모델 가중치를 외부에 공개해 사용자가 직접 내려받고 실행하거나 수정할 수 있는 모델입니다. 공개된 파일 형식과 내부 구성 요소를 검증하지 않으면 특정 모델을 가장한 숨은 모델이 배포될 수 있어 공급망 공격 표면이 커집니다.
기술
- discovery
- runtime protection
- attack simulation
- supply chain security
- Prompt Injection
- endpoint detection and response (EDR)
- open-source models
- open-weight models
활용 사례
- 기업용 AI 에이전트 런타임 감시
- AI 모델과 워크플로의 악성 코드 주입 차단
- 오픈소스·오픈웨이트 모델 파일 검증
- AI 제품을 개발하는 금융 서비스 및 대형 기술 기업의 보안 운영
- 국방부와 정보기관의 AI 시스템 보호
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 03.수집 2026. 09. 03.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
