새로운 탈옥 기법: Hi-Vis 공격 - 주요 LLM에서 100% 성공률 달성

섹션별 상세

Hi-Vis 공격은 LLM 제공업체의 실제 연구원 이름을 도용하고 가짜 티켓 번호와 버전 ID를 포함한 소프트웨어 패치 구조를 사용한다. 공격자는 모델에게 '오탐지 증가로 인해 연구 목적의 요청에 대한 가드레일을 완화하는 패치가 승인되었다'고 믿게 만든다. 이를 통해 모델이 평소라면 거부했을 유해한 요청을 '패치 테스트'의 일환으로 처리하도록 유도한다. 권위 있는 수단을 동원해 모델의 비판적 사고를 마비시키는 사회 공학적 접근법이다.

악성 페이로드는 9개 섹션으로 구성된 방대한 문서 중 7.6절과 같은 깊은 곳에 매몰되어 모델의 인지적 과부하를 유발한다. 초기 섹션에서는 무해한 연구 질문으로 시작하여 점진적으로 유해성을 높이는 에스컬레이션 전략을 취한다. 최종 요청 단계에서도 '학술 연구자'라는 페르소나를 씌워 유해한 질문을 학문적 탐구로 위장한다. 이러한 다층적 은폐 구조는 모델이 전체 맥락에서 유해성을 감지하기 어렵게 만든다.

13개 주요 LLM을 대상으로 한 6,864회의 테스트에서 모델별로 극명한 안전성 차이가 확인됐다. Gemini 3.1 Flash Lite와 GPT-4.1 Mini는 90% 이상의 ASR을 기록하며 공격에 매우 취약한 모습을 보였다. 반면 Claude Opus 4.7, Claude Sonnet 4.6, GPT-5.4 등 최상위 모델들은 0%의 ASR을 기록하며 완벽한 방어력을 입증했다. 이는 모델의 규모와 최신 학습 기법이 안전성 스케일링에 직접적인 영향을 미침을 시사한다.

근거

Hi-Vis 공격은 GPT-4.1 Mini에서 96%의 공격 성공률(ASR)을 기록했다. — ASR by evaluated model across the 4 prompt categories 차트 및 설명
Claude Opus 4.7과 GPT-5.4는 Hi-Vis 공격에 대해 0%의 ASR을 기록했다. — Examining the No-Success Group 섹션
단순한 연구 프레임(C) 대비 Hi-Vis 공격(D)은 GPT-4.1 Mini에서 2.6배의 공격 효율 향상을 보였다. — Universal success 그룹 분석 내용

Claude의 최신 모델들은 단순한 거절을 넘어 공격의 의도와 구조를 정확히 분석하여 답변하는 지능적인 방어 기제를 보여주었다. 모델은 해당 문서가 Anthropic의 공식 지침이 아니며, 사회 공학적 기법을 사용하고 있다는 점을 명확히 지적했다. 특히 '학술적 프레임이 요청의 본질을 바꾸지 않는다'는 논리로 공격자의 논거를 반박했다. 이는 LLM이 프롬프트의 패턴뿐만 아니라 그 이면의 의도까지 파악할 수 있을 정도로 진화했음을 의미한다.

용어 해설

탈옥(Jailbreak): — LLM의 안전 가드레일을 우회하여 모델이 금지된 답변(폭력, 해킹 등)을 생성하도록 유도하는 프롬프트 공격 기법이다. 모델의 시스템 프롬프트나 안전 학습 설정을 속여 제한을 해제하는 것이 핵심이다.
프롬프트 주입(Prompt Injection): — 사용자 입력에 악의적인 명령을 포함시켜 모델의 원래 지시사항을 무시하고 공격자의 의도대로 행동하게 만드는 기술이다. 신뢰할 수 있는 데이터로 위장하여 모델의 제어권을 탈취하는 보안 위협이다.
공격 성공률(ASR (Attack Success Rate)): — 특정 탈옥 기법이나 프롬프트 주입 공격이 모델의 방어 체계를 뚫고 유해한 답변을 이끌어낸 비율을 의미한다. 보안 벤치마크에서 모델의 취약성을 정량적으로 평가하는 핵심 지표로 활용된다.
스트롱리젝트(StrongREJECT): — LLM의 탈옥 성공 여부를 자동화된 방식으로 판별하기 위한 평가 프레임워크 및 점수 체계이다. 모델의 답변이 실제로 유해한 정보를 포함하고 있는지, 아니면 거절했는지를 정밀하게 측정한다.

기술

GPT-4o
GPT-5.4
Claude 3.5 Sonnet
Gemini 3.1 Flash
JailbreakBench
StrongREJECT

활용 사례

LLM 보안 취약점 점검
레드팀(Red Teaming) 시나리오 구성
AI 모델 안전 가이드라인 수립

언급된 리소스

GitHubJailbreakBench