ai-safety
AI 시스템이 인간의 가치와 의도에 부합하게 작동하며 예상치 못한 해를 끼치지 않도록 보장하는 연구 분야이다. 정신 건강 분야에서는 AI의 답변이 사용자에게 심리적 타격을 주지 않도록 제어하는 것이 핵심이다.
변호사 징계부터 수조 원 손실까지, AI 실패 사례 한눈에 확인
"연봉보다 중요한 건 인류의 미래?" AI 인재들이 회사를 옮기는 진짜 이유
영국 정부 서비스에 Claude가? Anthropic, AI 취업 비서 시범 도입
OpenAI가 200만 달러를 지원합니다: AI와 정신 건강의 안전한 미래