Import AI 445: 초지능의 시기, 프론티어 수학 문제 해결, 그리고 새로운 ML 연구 벤치마크

핵심 요약

이번 호에서는 AI 기술의 경제적 영향부터 초지능의 윤리적 도입 시기까지 폭넓은 주제를 다룬다. Meta는 추천 시스템의 효율성을 극대화한 Kunlun 아키텍처와 그 스케일링 법칙을 공개하며 광고 수익 최적화의 새로운 지평을 열었다. 닉 보스트롬은 초지능이 가져올 생명 연장 혜택을 고려할 때 개발을 늦추는 것보다 조기에 추진하는 것이 인류 전체에 이득이 될 수 있다는 파격적인 주장을 펼친다. 또한 AI 에이전트의 실제 연구 수행 능력을 평가하는 AIRS-BENCH와 공개되지 않은 최신 수학 난제를 해결하는 First Proof 벤치마크를 통해 AI의 창의적 문제 해결 능력을 정밀하게 측정한다.

배경

Scaling Laws, MFU (Model FLOPs Utilization), AGI Safety, Formal Mathematical Proofs

대상 독자

AI 연구자, 전략 기획자, MLOps 엔지니어, 기술 정책 결정자

의미 / 영향

추천 시스템의 효율화는 빅테크 기업의 수익 구조를 직접적으로 개선하며, 초지능 도입 시기에 대한 논의는 향후 국가 간 AI 규제 방향에 큰 영향을 미칠 것이다.

섹션별 상세

자동화가 고도화되어도 '사람의 손길(Human Touch)'에 대한 수요는 여전할 것이라는 분석이다. 라이브 음악, 고급 레스토랑, 컨시어지 서비스 등은 소득이 높아질수록 수요가 증가하는 '우등재' 성격을 띠며, AI 혁명 이후 인간 중심의 장인 정신이 강조되는 새로운 직업군이 부상할 가능성이 크다.

Meta는 기존 LLM과 달리 효율성이 낮았던 추천 시스템을 개선한 Kunlun 아키텍처를 발표했다. NVIDIA B200 GPU에서 모델 FLOPs 활용도(MFU)를 17%에서 37%로 끌어올렸으며, LLM처럼 연산량 투입에 따른 성능 향상을 예측할 수 있는 스케일링 법칙을 발견하여 광고 모델의 수익성을 극대화했다.

닉 보스트롬은 초지능이 질병 치료와 생명 연장에 기여할 잠재력을 고려할 때, 개발 지연으로 인해 발생하는 인명 손실이 AI의 위험성보다 클 수 있다고 주장한다. 그는 '항구에는 빠르게, 정박은 천천히(Swift to harbor, slow to berth)'라는 전략을 제시하며, 개발은 가속하되 최종 단계에서 신중한 조정을 거칠 것을 권고한다.

Meta와 옥스퍼드대 연구진은 AI 에이전트가 실제 머신러닝 연구 과제를 수행할 수 있는지 측정하는 AIRS-BENCH를 출시했다. 분자 생물학, 시계열 예측 등 20가지 복잡한 과제를 포함하며, 현재 모델들은 인간 전문가 수준에는 미치지 못하지만 앙상블 기법 등을 동원해 매우 복잡한 해결책을 제시하는 경향을 보인다.

스탠퍼드, 하버드 등 주요 대학 연구진은 인터넷에 답이 공개되지 않은 최신 수학 난제 10개를 모은 First Proof를 공개했다. 현재 GPT-5.2 Pro나 Gemini 3.0 DeepThink 같은 최첨단 모델들도 이 문제들을 해결하는 데 어려움을 겪고 있으며, 이는 AI의 진정한 창의적 도약 능력을 시험하는 중요한 척도가 될 것이다.