AI 에이전트가 기업망에 미등록 코드를 설치

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

웹사이트의 llms.txt와 llms-full.txt 파일을 처리하는 AI 에이전트가 등록되지 않은 코드 패키지나 도메인에 연결될 위험이 확인됐습니다. 연구진은 방산업체와 Fortune 500 기업 등이 보유한 6,214개 도메인에서 8,265개 파일을 조사했고, 120개 파일이 등록되지 않은 이름을 가리키는 사실을 찾았습니다. 연구진이 해당 이름을 등록해 외부 접속을 관찰하자 한 시간 안에 Fortune 500 기업에서 첫 응답이 왔고, 이후 수십 건이 추가로 기록됐습니다. 부모 프로세스 추적 결과 Claude, OpenAI's Codex, Nous Research's Hermes 같은 코딩 에이전트가 설치 과정에 관여했으며, 잘못 설정된 사이트 하나는 실제 악성코드까지 가리키고 있었습니다.

섹션별 상세

웹사이트가 AI용 문서 파일에 등록되지 않은 코드 패키지나 도메인을 포함하면, 해당 파일을 처리하는 AI 에이전트가 위험한 실행 콘텐츠에 연결될 수 있습니다. llms.txt와 llms-full.txt는 사이트 콘텐츠의 요약과 구조를 기계가 읽도록 제공하는 신흥 규약이지만, 내부 참조가 안전하다는 보장은 기사에 제시되지 않았습니다. 잘못 설정된 사이트 하나는 사람과 AI 방문자 모두를 실제 악성코드로 유도하고 있었습니다.

이스라엘의 한 스텔스 스타트업 연구진은 방산업체, Fortune 500 기업, Big Tech 기업이 소유한 6,214개 실제 도메인을 스캔했습니다. 발견한 8,265개 파일 가운데 서로 다른 사이트에 속한 120개 파일이 등록되지 않은 코드 패키지나 도메인을 하나 이상 가리켰습니다. 연구진은 그중 일부 이름을 직접 등록하고, 실행된 컴퓨터가 연구진 서버에 접속하도록 패키지를 구성해 실제 처리 과정을 검증했습니다.

연구진이 등록한 이름의 패키지가 실행되자 기업 환경에서 외부 서버로 접속하는 Phone-home 응답이 발생했습니다. 첫 응답은 한 Fortune 500 기업에서 한 시간 안에 도착했고, 이후 다른 Fortune 500 기업과 스타트업에서 수십 건의 추가 응답이 수집됐습니다. 비콘이 기록한 부모 프로세스의 실행 계보는 Claude, OpenAI's Codex, Nous Research's Hermes를 포함한 코딩 에이전트가 설치 과정에 관여했음을 드러냈습니다.

이 문제의 핵심은 AI 에이전트가 웹 문서를 단순한 참고 자료로만 읽지 않고, 그 안의 패키지나 링크를 실제 실행 과정에 넘길 수 있다는 점입니다. 연구진은 미등록 도메인과 패키지를 먼저 확보한 뒤 외부 접속을 관찰하는 방식으로 문서 참조와 코드 실행 사이의 연결을 확인했습니다. Anthropic, OpenAI, Nous Research는 기사 발행 시점까지 논평 요청에 응답하지 않았습니다.

용어 해설

llms.txt: — 웹사이트의 콘텐츠 요약과 상위 구조를 AI가 읽을 수 있는 형식으로 제공하는 파일 규약입니다. AI 에이전트가 웹사이트 정보를 처리할 때 참고하지만, 파일 안의 링크나 코드 패키지가 자동 실행될 경우 공급망 공격 경로가 될 수 있습니다.
llms-full.txt: — 웹사이트의 전체 콘텐츠 정보를 기계가 읽을 수 있도록 정리한 파일입니다. llms.txt보다 많은 정보를 제공하는 용도로 쓰이지만, 등록되지 않은 도메인이나 코드 패키지를 가리키면 AI 에이전트의 처리 과정에서 위험한 실행이 발생할 수 있습니다.
코딩 에이전트(Coding Agent): — 사람의 지시에 따라 코드를 작성하거나 실행하는 AI 시스템입니다. 이 기사에서는 Claude, OpenAI's Codex, Nous Research's Hermes 같은 코딩 에이전트가 웹 문서에 포함된 패키지를 처리하고 설치하는 과정에 관여한 것으로 확인됐습니다.
Phone-home 비콘(Phone-home Beacon): — 실행된 프로그램이나 패키지가 외부 서버에 접속해 자신의 실행 사실을 알리는 신호입니다. 연구진은 등록되지 않은 이름에 설치 패키지를 올린 뒤 이 신호를 수집해 기업 네트워크에서 발생한 설치와 부모 프로세스의 계보를 추적했습니다.