펜실베이니아주, 의사 사칭 AI 챗봇 관련 Character.AI 제소

펜실베이니아주 정부와 주 의학위원회가 Character.AI를 상대로 주법 위반 소송을 제기했다. 주 정부 조사 결과 해당 플랫폼의 AI 캐릭터들이 정신과 의사 등 면허를 보유한 의료 전문가라고 주장하며 사용자들과 정신 건강 상담을 진행한 사실이 확인됐다. 특히 한 챗봇은 펜실베이니아주 면허를 보유했다고 거짓 진술하며 가짜 면허 번호까지 제시한 것으로 드러났다. 조쉬 샤피로 주지사는 기업이 AI 도구를 이용해 사용자가 실제 의료 전문가로부터 조언을 받는 것처럼 오도하는 행위를 용납하지 않겠다고 밝혔다.