Anthropic, 보안 취약점 자동 공격 위험으로 신규 AI 모델 공개 보류

섹션별 상세

Anthropic은 운영체제와 브라우저의 심각한 취약점을 자율적으로 찾아내 악용할 수 있는 Claude Mythos Preview 모델을 공개하지 않기로 결정했다. 이 모델은 기존 자동화 도구가 500만 번의 실행 동안 놓쳤던 OpenBSD의 27년 된 결함과 FFmpeg의 16년 된 버그를 포함해 수천 개의 제로데이 취약점을 발견했다. Anthropic은 공격자가 유사한 도구를 개발하기 전에 방어 체계를 강화하기 위해 Apple, Google 등과 Project Glasswing을 시작했다. 이는 고성능 AI가 사이버 보안 생태계에 미칠 수 있는 실존적 위협을 선제적으로 차단하려는 조치이다.

FBI의 2025년 보고서에 따르면 미국 내 사이버 범죄 피해액이 전년 대비 26% 증가한 210억 달러로 역대 최고치를 기록했다. 특히 AI를 악용한 음성 복제, 딥페이크 영상, 위조 문서 사기가 처음으로 통계에 포함되어 약 8억 9,300만 달러의 손실을 입혔다. 60세 이상의 고령층이 77억 달러의 피해를 입으며 가장 큰 타격을 받았고, 암호화폐 관련 범죄는 110억 달러 이상의 손실을 기록했다. 이는 AI 기술의 발전이 범죄의 정교함과 규모를 급격히 확장시키고 있음을 시사한다.

뉴욕타임즈는 문체 분석을 근거로 영국 암호학자 아담 백(Adam Back)이 비트코인 창시자인 사토시 나카모토일 가능성이 높다는 조사 결과를 발표했다. 분석 결과 아담 백 특유의 'proof-of-work' 하이픈 표기법과 러시아 통화 WebMoney 언급 등이 사토시의 이메일 패턴과 일치하는 것으로 나타났다. 하지만 아담 백 본인은 이를 강력히 부인하고 있으며, 암호화폐 커뮤니티 역시 문체 분석만으로는 확정적 증거가 될 수 없다는 회의적인 반응을 보이고 있다. 이는 비트코인 기원에 대한 논쟁이 기술적 분석을 넘어 인문학적 분석 영역으로 확장되고 있음을 보여준다.

구글의 AI Overviews 기능이 약 10%의 확률로 잘못된 정보를 제공하고 있다는 분석 결과가 뉴욕타임즈를 통해 공개됐다. Oumi와 SimpleQA 평가 도구를 사용한 조사에서 Gemini 3 업데이트 이후 정확도가 85%에서 91%로 향상되었으나, 여전히 수천만 건의 오답이 매일 생성되고 있다. 구글 검색의 거대한 규모를 고려할 때 9%의 오류율은 분당 수십만 건의 거짓 정보가 유포되는 결과를 초래한다. 이는 검색 엔진에 통합된 생성형 AI가 정보의 정확성 측면에서 아직 신뢰할 수 있는 수준에 도달하지 못했음을 입증한다.

용어 해설

제로데이 취약점(Zero-day Vulnerability): — 소프트웨어 개발자가 아직 인지하지 못했거나 패치를 배포하지 않은 보안 결함이다. 공격자가 이를 먼저 발견해 악용할 경우 방어 수단이 없어 매우 위험하며, 이번 아티클에서는 AI가 이를 자율적으로 찾아내는 능력을 갖췄음을 경고한다.
문체 분석(Stylometric Analysis): — 글쓴이의 고유한 언어 습관, 어휘 선택, 문장 구조 등을 통계적으로 분석하여 저자를 식별하는 기법이다. 비트코인 창시자 사토시 나카모토의 정체를 밝히기 위해 특정 하이픈 사용 습관 등을 대조하는 데 사용됐다.
AI 개요(AI Overviews): — 구글 검색 결과 상단에 생성형 AI가 요약된 답변을 제공하는 기능이다. 사용자에게 빠른 정보를 제공하지만, 본문에서는 약 10%의 오답률을 기록하며 정보의 신뢰성 문제를 야기하고 있음을 지적한다.
딥페이크(Deepfake): — 인공지능을 활용해 특정 인물의 얼굴이나 목소리를 합성하는 기술이다. 최근 사이버 범죄에서 사기 및 위조 목적으로 악용되는 사례가 급증하고 있으며, FBI 보고서에서 주요 위협 요인으로 언급됐다.

기술

Claude Mythos Preview
Gemini 3
SimpleQA
Hashcash

활용 사례

자동화된 소프트웨어 취약점 탐지
AI 기반 사이버 범죄 탐지 및 보고
검색 결과 자동 요약

언급된 리소스

문서10 Ways Teams Move Faster with Slackbot

논문GLM-5.1: Towards Long-Horizon Tasks