red-lines
AI 모델이 생성하거나 수행해서는 안 되는 위험한 작업의 한계선을 의미한다. 생화학 무기 제조 지원이나 사이버 공격 보조 등이 대표적인 예시이다. 앤스로픽과 같은 기업은 이 선을 엄격히 지키려 했으나 OpenAI는 군사 협력을 위해 이를 완화했다는 비판을 받는다.
AI 모델이 생성하거나 수행해서는 안 되는 위험한 작업의 한계선을 의미한다. 생화학 무기 제조 지원이나 사이버 공격 보조 등이 대표적인 예시이다. 앤스로픽과 같은 기업은 이 선을 엄격히 지키려 했으나 OpenAI는 군사 협력을 위해 이를 완화했다는 비판을 받는다.