적대적 피드가 LLM 에이전트의 기본 결정을 왜곡하는 방식

LLM 에이전트는 의사결정 전 소셜 피드나 검색 결과 등 외부 정보를 소비하며, 이 정보의 구성이 에이전트의 최종 판단에 직접적인 영향을 미친다. 연구는 모델과 프롬프트를 고정한 상태에서 피드 내용만 변경하여 에이전트의 결정 변화를 측정했다. 실험 결과, 모델이 불확실한 상황에서 편향된 피드는 결정을 5%에서 100%까지 변화시켰으나, 확고한 기본값은 쉽게 바뀌지 않았다. 이러한 현상은 보안 관련 의사결정에서도 나타나며, 에이전트 평가 시 최종 프롬프트뿐만 아니라 피드 계층에 대한 감사가 필수적이다.