AI가 바꾼 바둑의 세계와 Anthropic의 펜타곤 요구 거절

섹션별 상세

AlphaGo 등장 이후 바둑계는 수 세기 동안 이어온 원칙이 무너지고 AI의 수를 정답으로 받아들여 복제하는 학습 방식이 주류가 되었다. 이는 훈련의 민주화를 가져와 여성 기사들의 성장을 돕기도 했으나, 인간 고유의 창의성이 사라졌다는 비판도 존재한다.

Anthropic은 미국 시민에 대한 대량 감시와 치명적인 자율 살상 무기 개발을 위해 AI를 제공하라는 펜타곤의 요구를 명확히 거절했다. 이 과정에서 미국 정부와의 관계가 악화되었으며, 이는 AI 기업의 윤리적 가이드라인과 국가 안보 요구 사이의 심각한 갈등을 드러냈다.

ChatGPT Health는 심각한 의료 응급 상황 사례의 절반 이상에서 즉각적인 치료 대신 대기를 권고하는 등 오판을 저지르는 것으로 나타났다. 이는 기존 검색 엔진보다 위험할 수 있는 LLM 기반 의료 상담의 한계를 드러내며 실질적인 검증의 필요성을 시사한다.

Instagram은 청소년이 자살 관련 키워드를 반복 검색할 경우 부모에게 알림을 보내는 기능을 도입했으며, 자사 AI 도구에도 유사한 안전 장치를 구축 중이다. 다만 이러한 조치가 오히려 청소년의 정보 접근을 차단하여 해를 끼칠 수 있다는 우려도 제기된다.

이슬람 국가(IS)는 AI 기술을 활용해 사망한 지도자의 목소리와 이미지를 복제하여 새로운 플랫폼에서 선전 활동을 지속하고 있다. 이는 테러 조직이 AI를 이용해 규제를 우회하고 영향력을 유지하는 새로운 위협으로 부상했음을 의미한다.

기술

AlphaGo
ChatGPT
Claude
Instagram AI

활용 사례

바둑 전략 분석
의료 응급 상황 분류
SNS 유해 콘텐츠 모니터링

언급된 리소스

문서Anthropic has refused the Pentagon’s AI demands

문서ChatGPT Health regularly fails to recognize medical emergencies