OpenAI, AI 에이전트 보안 강화를 위해 보안 스타트업 Promptfoo 인수

섹션별 상세

OpenAI는 AI 에이전트의 보안 취약점을 진단하고 보호하는 기술을 보유한 Promptfoo를 인수하여 자사 생태계에 편입했다.

Promptfoo의 기술은 OpenAI의 기업용 플랫폼인 'OpenAI Frontier'에 통합되어 에이전트 워크플로우의 보안 평가, 자동 레드팀 구성, 실시간 위험 및 컴플라이언스 모니터링을 수행한다.

Promptfoo는 포춘 500대 기업의 25% 이상이 사용하는 오픈소스 인터페이스와 라이브러리를 보유하고 있으며, OpenAI는 이 오픈소스 프로젝트를 계속 유지 및 확장할 계획이다.

이번 인수는 AI 에이전트가 실제 비즈니스 환경에서 자율적으로 작업을 수행할 때 발생할 수 있는 데이터 유출 및 시스템 조작 위험을 해결하기 위한 필수적인 조치이다.

Promptfoo는 설립 이후 약 2,300만 달러의 투자금을 유치했으며, 2025년 7월 기준 기업 가치는 8,600만 달러로 평가받은 바 있다.

레드팀 구성(Red-Teaming): — 시스템의 보안 취약점을 발견하기 위해 적대적인 공격자의 관점에서 의도적으로 공격을 시도하는 보안 검증 프로세스이다. AI 모델이 부적절한 답변을 생성하거나 탈옥(Jailbreak)되는 시나리오를 사전에 테스트하여 안전성을 확보하는 데 필수적이다.
에이전트 워크플로우(Agentic Workflow): — AI 에이전트가 주어진 목표를 달성하기 위해 스스로 계획을 수립하고, 필요한 도구를 호출하며, 단계별로 작업을 수행하는 자율적인 실행 흐름이다. 단순한 텍스트 생성을 넘어 실제 디지털 작업을 수행하므로 보안 및 권한 관리가 매우 중요하다.
컴플라이언스(Compliance): — 기업이 법적 규제, 산업 표준, 내부 정책 및 윤리적 기준을 준수하는 상태를 의미한다. AI 도입 시 데이터 프라이버시 보호 및 공정성 유지 등 규제 요구사항을 충족하는지 모니터링하는 것이 핵심이다.