자동 검토 시스템
AI 모델과의 대화 내용을 실시간으로 분석하여 유해성을 판단하는 알고리즘 기반의 감시 체계이다. 특정 키워드나 문맥을 파악해 위험 신호를 감지하고 관리자에게 알리거나 계정을 자동으로 차단하는 기능을 수행한다.
"ChatGPT가 범행을 예견했다?" OpenAI, 총기 난사 징후 묵인 논란