AI Snake Oil (Arvind Narayanan)

저자들은 모델 추론층에서 가격이 한계비용에 수렴해 이윤 확보가 어려워질 가능성이 크며 연구실들이 수직 통합과 임베디드 배포로 가치 포착을 시도하고 있어 고객 잠금과 경쟁 약화 위험이 커진다고 진단했다.

AI는 소프트웨어 개발의 '실행' 단계만 압축할 뿐, '결정'과 '전달'이라는 인간의 핵심 책임을 대체할 수 없어 엔지니어의 수요는 오히려 증가할 전망이다.

구글의 AI 에이전트가 OS를 개발했다는 주장에 대해 투명성 부족과 검증의 한계를 지적하며, 독립적인 오픈 월드 평가 체계의 필요성을 강조함.

AI 위험 대응을 위해 강력한 정부 개입보다는 사회 전반의 회복탄력성을 높이는 정책적 접근이 필요하다.

기존 벤치마크의 한계를 극복하기 위해 실제 환경에서 복잡한 장기 과제를 수행하는 '오픈 월드 평가'의 정의와 이를 실행하는 CRUX 프로젝트의 첫 성과를 공유한다.

AI 에이전트의 성능(정확도)은 급격히 향상되었으나, 일관성과 예측 가능성을 포함한 신뢰성 지표는 지난 18개월 동안 완만한 개선에 그쳤음을 12가지 지표로 입증했다.

AI 기술 발전이 법률 서비스의 비용 절감으로 이어지기 위해서는 규제 장벽, 적대적 경쟁 구조, 인간 개입의 한계라는 세 가지 병목 현상을 해결해야 한다.

모라벡의 역설이 과학적 근거가 부족한 선택 편향의 결과임을 지적하며, AI의 미래를 예측하기보다 실제 기술 변화에 적응하는 유연한 태도를 강조한다.