구글 크롬, AI 에이전트 보호를 위한 새로운 보안 도구 도입

핵심 요약

구글은 AI 에이전트의 행동을 감시하는 별도의 비평 모델과 데이터 접근 범위를 제한하는 출처 세트 도구를 통해 브라우저 기반 AI 에이전트의 안전성을 강화하고 있다.

배경

AI 에이전트가 브라우저 내에서 사용자를 대신해 작업을 수행하는 시대가 도래함에 따라, 프롬프트 인젝션이나 데이터 유출 같은 새로운 보안 위협이 대두되고 있다.

대상 독자

AI 개발자, 사이버 보안 전문가, 브라우저 기술에 관심 있는 사용자

의미 / 영향

구글의 이러한 보안 프레임워크는 향후 브라우저 기반 AI 에이전트의 표준 보안 모델이 될 가능성이 높다. 개발자들은 에이전트 설계 시 기능 구현뿐만 아니라 다층적인 검증 아키텍처를 반드시 고려해야 하며, 보안과 사용자 경험 사이의 균형을 맞추는 것이 핵심 경쟁력이 될 것이다.

섹션별 상세

00:00

AI 에이전트 보안의 필요성과 구글의 대응

AI 에이전트가 브라우저에서 데이터를 다루고 결제 등을 수행하게 되면서 해커의 표적이 될 가능성이 높아졌다. 구글은 크롬 브라우저의 시장 지배력을 유지하기 위해 퍼플렉시티나 오픈AI의 브라우저와 경쟁하며 강력한 보안 솔루션을 구축하고 있다. 브라우저는 AI 에이전트가 가장 널리 배포될 수 있는 폼 팩터이기에 보안 확보가 최우선 과제이다.

•브라우저 기반 AI 에이전트의 확산과 보안 위협 증가
•구글 크롬의 시장 경쟁력 유지를 위한 보안 강화 전략

03:18

사용자 정렬 비평(User Alignment Critique) 메커니즘

제미나이(Gemini) 모델을 활용해 에이전트의 각 단계별 행동이 사용자의 원래 목표와 일치하는지 검증한다. 이 비평 모델은 화면 내용을 직접 보지 않고 메타데이터만 확인하므로 프롬프트 인젝션 공격에 속지 않고 에이전트의 계획을 재검토하도록 유도한다. 에이전트가 실행하는 모든 단계는 이 독립적인 모델의 승인을 거쳐야 한다.

•제미나이 기반의 독립적 행동 검증 시스템
•프롬프트 인젝션 방지를 위한 메타데이터 중심 비평 방식

비평 모델이 화면을 보지 않는 이유는 웹페이지에 숨겨진 악의적인 지시어(프롬프트 인젝션)에 오염되지 않기 위함이다.

06:13

에이전트 출처 세트(Agent Origin Sets)와 데이터 격리

에이전트가 접근할 수 있는 도메인을 '읽기 전용'과 '읽기/쓰기 가능'으로 엄격히 구분한다. 쇼핑 사이트의 상품 정보는 읽되, 광고 배너나 신뢰할 수 없는 iFrame 요소는 무시하도록 설계하여 교차 출처 데이터 유출을 방지한다. 이는 AI 에이전트가 웹페이지의 시각적 요소뿐만 아니라 HTML 코드 수준에서 보안 위험을 식별할 수 있게 한다.

•데이터 접근 범위를 제한하는 출처 세트 도구
•iFrame 및 광고를 통한 피싱 공격 차단

10:37

사용자 권한 제어 및 향후 과제

금융이나 의료 데이터 접근, 메시지 전송, 구매 결제 시에는 반드시 사용자의 명시적 승인을 거치도록 설정했다. 호스트는 이러한 잦은 승인 절차가 사용자 경험을 저해할 수 있음을 지적하며, 향후 모델 성능 향상을 통해 보안과 편의성 사이의 균형을 맞추어야 한다고 언급했다. 구글은 패스워드 매니저 데이터에 에이전트가 직접 노출되지 않도록 설계했다.

•민감한 작업 수행 시 사용자 승인 필수화
•보안 강화와 사용자 편의성 사이의 트레이드오프

용어 해설

Prompt Injection: — 악의적인 입력을 통해 AI 모델의 원래 지시 사항을 무시하게 만들거나 공격자가 원하는 행동을 하도록 조작하는 기법이다.
iFrame: — 웹페이지 안에 다른 웹페이지를 삽입하는 HTML 요소로, 보안이 취약할 경우 데이터 탈취의 통로로 악용될 수 있다.

주목할 인용

“브라우저는 오늘날 AI 에이전트가 가장 넓은 분포를 가질 수 있는 최고의 폼 팩터 중 하나이다.”
Jaden Schafer·00:30
구글이 왜 크롬 브라우저의 AI 보안에 집중하는지 설명하며

“AI 에이전트가 화면에 보이는 것뿐만 아니라 코드까지 분석하기 때문에 인간보다 피싱 사이트를 더 잘 탐지할 수 있다.”
Jaden Schafer·09:33
에이전트 출처 세트와 HTML 분석 기능의 장점을 강조하며

실무 Takeaway

구글은 AI 에이전트의 행동을 실시간으로 감시하는 독립적인 비평 모델 체계를 구축했다.
에이전트 출처 세트를 통해 신뢰할 수 없는 광고나 외부 요소로부터 데이터를 격리한다.
보안을 위해 민감한 작업에는 사용자 승인 단계를 두어 에이전트의 자율성을 통제한다.