hard-takeoff
AI가 스스로를 개선하는 능력을 갖추게 되면서 매우 짧은 시간 안에 인간의 통제를 벗어날 정도로 지능이 급격히 상승하는 시나리오이다. 이는 AI 안전성 연구에서 주요하게 다루는 위험 요소 중 하나이다.
"AI의 자가 발전은 위험하다?" 메타가 제안하는 인간-AI 공생 전략