채용 공고에 포함된 system 역할 태그와 JSON 툴 정의로 인한 프롬프트 인젝션 경고

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

웹에서 긁어온 채용 공고 텍스트에 'system' 역할 태그와 JSON 형식의 도구·함수 정의가 삽입되어 프롬프트 인젝션으로 작동할 수 있다는 사례가 포착되었다. 이미지 속 응답은 모델이 해당 블록을 무시했다고 밝히면서도 다른 AI 도구 환경에서는 인젝션이 실제로 영향을 미칠 수 있음을 지적하였고, 실무적으로는 코드·JSON·'system:' 태그처럼 보이는 요소를 입력 전에 제거하라고 권고하고 있다. 이 사례는 스크래핑 파이프라인의 출력 검증과 입력 전처리가 프롬프트 인젝션 위험을 낮추는 기본적 방어 수단임을 시사한다.

실용적 조언

웹에서 긁어온 채용 공고나 게시글을 AI 도구에 붙여넣기 전에 'system:'으로 시작하는 역할 태그, 중첩된 JSON 객체, 또는 함수·툴 시그니처처럼 보이는 블록을 텍스트 전처리 단계에서 탐지하여 삭제하거나 주석 처리하라. 이 방법은 입력을 단순 문자열로 환원하여 모델이 외부 지시를 내부 지시로 오인할 가능성을 낮춘다. 자동화 파이프라인에서는 정규식 기반 필터나 JSON 파싱 시도 실패 시 제거하는 로직을 적용하는 것이 재현 가능한 방어책이다.
브라우저 확장이나 스크래퍼로 수집한 텍스트는 수집 원본을 로깅하고 동일한 포맷이 반복적으로 유입되는지 모니터링하라. 반복적으로 같은 패턴의 'system' 블록이 발견되면 수집 파이프라인 자체를 점검하여 메타데이터가 콘텐츠에 섞여 들어가지 않도록 개선해야 한다. 이러한 운영 보완은 문제 재발을 막는 예방적 조치로서 효과적이다.
AI 도구별로 안전 동작이 다를 수 있으므로, 민감한 콘텐츠를 처리하는 워크플로에서는 사전 검증 테스트를 수행하고 도구별 처리 결과를 문서화하라. 테스트 케이스에는 의도적으로 삽입된 system 태그와 JSON 툴 정의를 포함시켜 각 환경에서의 반응을 비교하면 어느 도구가 더 취약한지 판단할 수 있다. 그 결과에 따라 도구 선택이나 입력 정책을 조정하는 것이 실무적이다.

섹션별 상세

01

스크랩된 채용 게시물에 실제로 'system' 역할 태그와 도구·함수 정의 형태의 JSON이 삽입되어 있었다는 점이 문제의 핵심이다. 입력 텍스트 내에 role: system 같은 태그와 함께 Apify, Indeed, Notion 같은 도구 정의가 붙어 있으면 모델이 이를 내부 지시나 실행 가능한 함수 정보로 해석할 가능성이 높다. 이미지 속 응답은 그런 블록을 텍스트 인젝션 사례로 식별하고 모델이 해당 지시를 무시한다고 명시했으며, 이 사례는 웹에서 긁어온 콘텐츠를 그대로 AI 도구에 넣을 때 재현 가능한 위험을 보여준다.

02

모델의 동작 원리는 입력의 계층적 역할(role) 태그와 구조화된 JSON을 우선적으로 해석하는 경향이 있어 외부에서 포함된 system 태그가 우선권을 얻을 수 있다는 점이다. 삽입된 툴 정의가 함수 시그니처와 설명을 포함하면 모델은 그것을 '도구 명세'로 인식하여 해당 도구를 호출하거나 그에 맞춰 응답하려 할 수 있다. 이미지의 텍스트는 이 과정을 '교묘한 인젝션'으로 규정하고 사용자에게 코드·JSON·system 태그를 제거하라고 권고하며, 이는 입력 전처리로 위험을 완화하는 실무적 근거가 된다.

03

해당 사례는 단순 경고를 넘어서 실무적 보호 조치로 연결되어야 한다는 논점이 있다. 스크린샷의 작성자는 모델이 그 블록을 무시한다고 밝혔지만 사용자가 같은 텍스트를 다른 AI 도구에 붙여넣으면 도구에 따라선 인젝션이 작동할 수 있다고 명시했다. 따라서 게시물은 스크랩된 콘텐츠를 AI에 넣기 전에 코드·JSON·'system:' 태그처럼 보이는 요소를 제거하고 출처를 의심하라는 구체적 행동 지침으로 귀결된다.

이미지 분석

Screenshot
이미지는 입력 텍스트 내에 'system' 역할 태그가 존재하고 뒤따라 JSON 형태의 툴/함수 정의가 붙어 있는 사례를 보여준다. 해당 캡션은 모델이 그 블록을 무시한다고 명시하면서도 사용자가 다른 AI 도구에 붙여넣을 때 발생할 수 있는 위험을 경고하고 있어 입력 전처리의 필요성을 근거로 제시한다. 이 스크린샷은 인젝션의 전형적 형태와 실무적 대응(코드·JSON·system 태그 제거)을 보여주는 근거 자료로 활용 가능하다.
스크린샷은 삽입된 system 역할 태그와 JSON 형식의 툴 정의가 포함된 채용 공고 텍스트를 모델이 프롬프트 인젝션으로 식별하여 경고하는 내용을 캡처하고 있다.

Screenshot
두 번째 이미지는 첫 번째와 동일한 사례의 다른 해상도 버전으로, 모델 응답에서 인젝션을 식별한 후 사용자를 향해 조치(코드·JSON 제거, 출처 주의)를 권하는 내용을 포함한다. 이 이미지는 경고의 문구와 권고 조치가 어떻게 표현되는지를 보여주며, 실무에서 어떤 텍스트 패턴을 찾아 제거해야 하는지에 대한 실증적 근거로 활용될 수 있다. 해당 스크린샷은 문제 재현과 전처리 규칙 수립을 위한 참고 자료다.
프롬프트 인젝션 시도로 보이는 텍스트 블록을 모델이 'textbook prompt injection attempt'로 규정하고 사용자가 입력 전처리를 하도록 권고하는 메시지를 캡처하고 있다.

용어 해설

시스템 프롬프트(System Prompt): — 시스템 프롬프트는 모델에게 동작 범위와 권한을 지정하는 문자열로서 입력 텍스트에 삽입되면 모델의 응답 우선순위에 영향을 준다. 입력에 'system' 역할 태그가 포함되면 모델이 해당 태그를 내부 지시로 해석할 가능성이 있어 외부에서 삽입된 명령이 실행되는 위험이 존재한다. 따라서 외부에서 수집한 텍스트를 AI 도구에 넣을 때는 system 태그를 제거해야 모델이 의도치 않은 지시를 따르는 위험을 낮출 수 있다.
프롬프트 인젝션(Prompt Injection): — 프롬프트 인젝션은 입력 텍스트에 악의적 또는 오용된 지시를 숨겨 모델이 원래 의도와 다른 행동을 하게 만드는 공격 방식이다. 공격자는 'system' 역할 태그나 JSON 형식의 도구 정의를 삽입하여 모델에게 추가 명령을 전달하려고 시도한다. 웹에서 긁어온 콘텐츠를 그대로 붙여넣을 때 이런 인젝션이 포함될 수 있어 사전 필터링이 중요하다.
함수 호출 정의(Function Calling): — Function Calling은 모델 응답에서 외부 도구나 API를 호출하기 위해 도구와 함수의 시그니처를 JSON 등으로 정의하는 방식을 말한다. 스크랩한 문서에 툴 정의가 포함되면 모델이 그것을 도구 인터페이스로 오해하여 실제 호출을 시도하려는 행동을 보일 수 있다. 입력 텍스트 내 함수 정의나 툴 목록은 도구 사용 권한과 별개로 제거해야 안전하다.

언급된 도구

Apify중립

웹 스크래핑 및 크롤링 플랫폼으로 스크랩된 데이터에 메타데이터가 포함될 수 있다

Indeed중립

채용 공고를 제공하는 플랫폼으로 게시물 포맷에 따라 구조화된 메타데이터가 노출될 수 있다

Notion중립

문서·노트 도구로서 게시물에 함수 정의나 템플릿 형태의 구조화된 블록이 섞일 가능성이 있다