Google Threat Intelligence Group, AI로 개발된 제로데이 취약점 공격 최초 발견

섹션별 상세

공격자가 AI를 활용해 제로데이 취약점 공격 코드를 개발하고 이를 대규모 공격에 활용하려던 정황이 처음으로 확인됐다. 구글 위협 인텔리전스 그룹은 선제적 카운터 디스커버리 기술을 통해 실제 피해가 발생하기 전에 해당 공격 시도를 식별하고 차단했다. 이는 AI가 공격자의 무기 개발 속도를 높이는 데 실질적으로 사용되고 있음을 보여주는 사례이다. 방어자 입장에서는 이러한 고도화된 위협에 대응하기 위한 실시간 탐지 체계 구축이 필수적이다.

구글은 자사 AI 모델인 Gemini가 악의적인 목적으로 오용되는 것을 막기 위해 다각도의 보호 조치를 적용하고 있다. 모델 내부에 탑재된 보호 기능과 전용 분류기를 통해 유해한 요청을 걸러내며, 위협 활동과 연관된 계정은 즉시 비활성화한다. 이러한 조치는 생성형 AI 기술이 사이버 공격의 도구로 전락하는 것을 방지하는 일차적인 방어선 역할을 수행한다. 기술 제공자가 모델의 안전한 사용을 보장하기 위해 지속적인 모니터링과 제재를 병행하고 있음이 확인됐다.

AI는 공격의 도구뿐만 아니라 취약점을 찾아내고 보완하는 강력한 방어 도구로도 활용되고 있다. 구글은 소프트웨어 취약점을 탐지하는 Big Sleep과 Gemini의 추론 능력을 활용해 코드를 자동 수정하는 CodeMender 에이전트를 운용한다. 실제 보안 현장에서 AI 에이전트가 인간 보안 전문가의 개입을 최소화하면서도 보안 결함을 빠르게 식별하고 해결하는 성과를 거두고 있다. 이는 AI 기술이 보안 생태계 전반의 회복탄력성을 높이는 핵심 요소로 자리 잡고 있음을 시사한다.

기술

Gemini
Big Sleep
CodeMender

활용 사례

자동 취약점 탐지
보안 코드 자동 수정
AI 모델 오용 방지

언급된 리소스

문서Google Cloud Threat Intelligence blog