superalignment
초지능 AI가 인간의 가치와 목표에 어긋나지 않도록 제어하고 정렬하는 기술적 연구 분야이다. OpenAI는 이 팀에 자원의 20%를 투입하겠다고 했으나 결국 해체하며 논란이 되었다. AI가 인간의 통제를 벗어나는 위험을 방지하는 핵심적인 안전 장치로 간주된다.
초지능 AI가 인간의 가치와 목표에 어긋나지 않도록 제어하고 정렬하는 기술적 연구 분야이다. OpenAI는 이 팀에 자원의 20%를 투입하겠다고 했으나 결국 해체하며 논란이 되었다. AI가 인간의 통제를 벗어나는 위험을 방지하는 핵심적인 안전 장치로 간주된다.