Agentforce 기반 보안 조사 플랫폼의 확장

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

Salesforce의 Trusted Services 팀은 Agentforce 기반 Security Center를 단순한 보안 질의 인터페이스에서 장기 실행 사건을 관리하는 상태 기반 조사 플랫폼으로 확장했습니다. 이 플랫폼은 여러 보안 시스템의 텔레메트리를 액션 라우팅과 검색·요약 파이프라인으로 처리하고, 조사 수명주기·조치 추적·감사·시각화를 하나의 운영 흐름에 묶습니다. 비결정론적 LLM 응답은 시뮬레이션 상호작용과 LLM evaluator를 활용한 연속 평가로 검증하며, AI 생성 테스트 처리량은 수동 평가 대비 약 10–20X 높아졌습니다. 다만 Salesforce 특화 조치 로직과 위협 모델을 foundation model에 주입하는 grounding은 여전히 진행 중입니다.

섹션별 상세

Salesforce의 Trusted Services 팀은 Security Center를 Agentforce 기반의 보안 조사 도구로 확장해 위협 조사, 사건 대응, 조치 안내를 자연어 중심으로 연결했습니다. 기존 보안 운영은 여러 대시보드와 분산된 도구를 직접 오가야 했지만, 에이전트는 대량의 텔레메트리와 조사 문맥을 압축해 실행 가능한 응답으로 바꿉니다. 최신 릴리스는 엔지니어링 속도를 2–3X 높였고 복잡한 보안 환경에서 AI 기반 플레이북을 확장하는 기반이 됐습니다.

근거

Security Center의 최신 릴리스가 엔지니어링 속도를 2–3X 높였다. — 기사 도입부의 최신 릴리스 성과 언급

처음 Security Center는 보안 발견 사항과 텔레메트리에 질문하는 대화형 인터페이스였지만, 실제 사건은 분류·조사·에스컬레이션·소통·해결이 이어지는 장기 운영 흐름이었습니다. 팀은 이에 맞춰 조사 수명주기 관리, 조치 추적, 감사 가능성, 시각화, 상태 관리 기능을 갖춘 조사 플랫폼을 구축했습니다. 워크플로 허브와 지속 상태가 여러 세션과 변화하는 조치 흐름을 연결해 단일 대화창의 한계를 보완합니다.

대화형 Security Center에서 상태 기반 조사 플랫폼으로의 확장 — Diagram이미지는 단일 질문과 응답을 주고받는 v1 대화형 구조가 워크플로 허브, 조사 수명주기, 조치 추적, 감사 가능성, 시각화를 포함한 v2 상태 기반 플랫폼으로 확장되는 과정을 보여줍니다. 여러 세션에 걸쳐 상태와 장기 실행 사건 문맥을 유지하는 구조가 대화형 인터페이스의 한계를 보완합니다.

근거

Security Center는 대화형 인터페이스에서 조사 수명주기와 조치 추적을 갖춘 상태 기반 조사 플랫폼으로 확장됐다. — Agentforce 도입 후 에이전트 기능 확장에 관한 Q&A 문단

실행마다 다른 응답을 내놓는 LLM은 기존의 결정론적 테스트 방식으로 일관되게 검증하기 어려웠습니다. 팀은 시뮬레이션된 고객 상호작용을 에이전트에 입력하고 LLM 평가기가 정확성, 문맥 근거, 의도 충족 여부를 판단하는 AI 기반 평가 파이프라인을 만들었습니다. 평가기는 문구가 같은지보다 조사 행동이 목적에 맞는지를 검사하며, AI 생성 테스트로 수동 평가 대비 테스트 처리량을 약 10–20X 높이고 새로운 시나리오와 프롬프트 변형을 지속적으로 점검합니다.

Security Center와 LLM evaluator를 연결한 연속 평가 파이프라인 — Diagram이미지는 테스트 대상인 Agentforce 기반 Security Center가 프롬프트 오케스트레이션과 액션 라우팅을 수행한 뒤 LLM evaluator로 전달되는 흐름을 나타냅니다. 평가기는 문장 표현이 아니라 정확성, grounding, 의도 충족, read-and-react 적합성을 검사하고, 판정 결과를 다시 프롬프트 조정에 연결하는 연속 평가 루프를 구성합니다.

시뮬레이션 입력부터 판정과 프롬프트 조정까지의 평가 흐름 — Diagram이미지는 시뮬레이션된 고객 표현, 엣지 케이스, 모호한 입력이 Security Center를 거쳐 LLM evaluator와 최종 판정으로 이어지는 평가 구조를 보여줍니다. 판정은 통과·실패·회귀로 나뉘며 결과가 프롬프트 개선으로 되돌아가고, 수동 평가 대비 50–100X 테스트 처리량이라는 도식의 수치도 함께 표시됩니다.

근거

AI 생성 테스트가 수동 평가 대비 테스트 처리량을 약 10–20X 높였다. — 비결정론적 LLM 검증 문제와 AI 기반 평가 파이프라인을 설명하는 문단

보안 조사는 일반적인 의심 활동 질문에서 특정 API, 텔레메트리 패턴, 사용자 행동, 과거 조치 이력으로 빠르게 깊어지므로, 유한한 컨텍스트 윈도 안에서 일관된 추론을 유지해야 합니다. 팀은 프롬프트 엔지니어링, 구조화된 액션 라우팅, 통제된 데이터 소스 선택, 자동 평가를 결합해 컨텍스트 누락과 환각 위험을 낮췄습니다. 이 조합은 과장된 영향 범위나 오탐이 실제 대응을 방해하는 상황에서 운영 신뢰를 지키는 역할을 합니다.

Salesforce 내부의 보안 시스템은 서로 다른 데이터 모델, 텔레메트리 형식, 조치 흐름을 사용하므로 특정 위협 유형에 구조를 고정하면 새로운 조사 범주를 수용하기 어렵습니다. 팀은 여러 텔레메트리를 작은 문맥 세그먼트로 나눈 뒤 AI 요약 파이프라인으로 조사 상태를 압축하고, 에이전트가 요약본을 먼저 추론하며 필요할 때 원본을 조회하도록 설계했습니다. 분산된 조치 시스템을 연결하는 오케스트레이션과 검색 파이프라인, 워크플로 인계, 대체 경로, 동적 조치 라우팅이 대규모 사건 처리를 뒷받침합니다.

이기종 보안 텔레메트리를 분할·요약해 유한한 에이전트 문맥에 전달하는 구조 — Diagram이미지는 세션 탈취 신호, API 이상 스트림, 의심스러운 사용자 행동, 감사·조치 로그, 위협 인텔리전스가 서로 다른 형식과 규모로 유입되는 상황을 나타냅니다. 데이터를 문맥 세그먼트로 나눈 뒤 AI 기반 요약으로 핵심 신호를 보존하고 노이즈를 제거해, 유한한 크기의 Agent context에서 근거 기반 추론을 수행하도록 연결합니다.

근거

텔레메트리는 문맥 세그먼트로 분할되고 AI 요약을 거쳐 에이전트에 전달된다. — 보안 텔레메트리와 다중 시스템 조사 데이터의 아키텍처 설명 문단

현재 Agentforce 워크플로는 공개 인터넷 자료로 학습된 foundation model에 크게 의존하므로 Salesforce 고유의 조치 로직, 보안 운영 절차, 플랫폼별 위협 모델을 자동으로 충분히 이해하지 못합니다. 팀은 Setup Agent 조직과 협력해 Salesforce가 관리하는 보안 지식을 에이전트 문맥에 직접 주입하는 grounding 시스템을 강화하고 있습니다. 장기적으로는 Salesforce 내부에서 조사, 조치, 운영 의사결정을 이어가면서 더 빠른 사건 억제와 플랫폼 특화 추론을 제공하는 것이 목표입니다.

근거

Salesforce 고유 보안 지식을 에이전트 문맥에 주입하는 grounding 시스템을 Setup Agent 조직과 구축하고 있다. — Salesforce 특화 grounding의 남은 과제를 설명하는 마지막 Q&A 문단

용어 해설

대규모 언어 모델(LLM): — 대규모 언어 모델은 텍스트를 바탕으로 답변과 판단을 생성하는 AI 모델입니다. 같은 입력에도 실행마다 다른 결과가 나올 수 있어, Security Center에서는 문장 일치가 아니라 조사 목적에 맞는 행동과 근거 충실도를 평가하는 방식이 중요합니다.
에이전트 워크플로(Agentic Workflow): — 에이전트 워크플로는 AI 에이전트가 질문에 답하는 데 그치지 않고 여러 도구와 데이터 소스를 연결해 조사, 조치, 상태 관리를 이어가는 구조입니다. Security Center는 이를 통해 장기 실행 보안 사건의 단계별 처리를 지원합니다.
텔레메트리(Telemetry): — 텔레메트리는 시스템과 사용자 활동에서 수집되는 운영·보안 신호입니다. Security Center는 세션 탈취, API 이상, 의심스러운 사용자 행동 등 서로 다른 형식과 규모의 텔레메트리를 분할하고 요약해 에이전트의 조사 문맥으로 전달합니다.
컨텍스트 윈도(Context Window): — 컨텍스트 윈도는 모델이 한 번에 처리할 수 있는 입력 문맥의 범위입니다. 대규모 보안 조사에서는 원시 텔레메트리가 이 한도를 빠르게 초과하므로, 핵심 신호를 남긴 요약 상태를 먼저 주입하고 필요할 때 원본 데이터를 조회하는 방식이 필요합니다.
환각 완화(Hallucination Mitigation): — 환각 완화는 모델이 사실과 다른 보안 판단이나 과장된 영향 범위를 생성하지 않도록 통제하는 접근입니다. 이 사례에서는 프롬프트 설계, 구조화된 액션 라우팅, 데이터 소스 제한, 자동 평가를 함께 적용해 오탐과 운영 신뢰 저하를 줄입니다.
LLM 평가기(LLM Evaluator): — LLM 평가기는 다른 LLM의 응답을 평가하는 모델 또는 평가 구성요소입니다. Security Center의 파이프라인은 시뮬레이션된 고객 상호작용을 에이전트에 입력한 뒤, 평가기가 정확성·문맥 근거·조사 의도 충족 여부를 판단하도록 구성됩니다.

기술

Security Center
Agentforce
LLM
LLM evaluators
prompt engineering
structured action routing
retrieval pipelines
AI-driven summarization pipelines
Setup Agent

활용 사례

보안 사건 분류와 조사
분산 텔레메트리 기반 이상 징후 추적
조치 계획과 remediation tracking
AI 기반 보안 응답 평가
장기 실행 보안 사건의 상태 관리