실제 환경에서의 LLM 환각: 존재하지 않는 인용문을 통한 대규모 증거

대규모 언어 모델(LLM)이 그럴듯하지만 사실이 아닌 정보를 생성하는 환각 현상이 실제 과학 지식 생산 과정에 미치는 영향을 분석한 연구이다. 연구진은 arXiv, bioRxiv, PubMed Central 등 주요 논문 저장소의 250만 개 논문에 포함된 1억 1,100만 개의 참조 문헌을 전수 조사했다. 분석 결과 LLM 도입 이후 존재하지 않는 가짜 인용문이 급격히 증가했으며, 2025년 한 해에만 보수적으로 잡아도 146,932건의 환각 인용이 발생한 것으로 추정된다. 이러한 오류는 특히 AI 활용도가 높은 분야와 신진 연구자 팀에서 두드러지게 나타나며, 기존의 유명 학자나 남성 학자에게 인용 공로를 편향되게 배분하는 경향을 보인다.