Import AI 451: 정치적 초지능, Google의 정신 사회, 그리고 로봇 드러머

섹션별 상세

정치적 초지능은 정보, 대리인, 거버넌스라는 세 가지 계층을 통해 시민이 권력에 대항하고 효과적으로 행동하도록 돕는 도구이다. 정보 계층은 정부의 데이터 이해도를 높이고, 대리인 계층은 시민을 대신해 투표나 정책 감시를 수행하며, 거버넌스 계층은 소수 기업이 소유한 AI 인프라를 민주적으로 통제하는 규칙을 수립한다. 이는 AI 기술 자체보다 인간 및 제도와의 인터페이스 설계가 사회적 번영의 핵심임을 시사한다.

DexDrummer는 고수준 RL 정책과 저수준 정밀 제어 정책을 결합하여 로봇이 드럼 스틱의 궤적을 따라가며 연주하도록 학습시킨다. 시뮬레이션에서 학습된 정책을 Franka Panda 로봇 팔과 Tesollo DG-5F 로봇 손에 적용했으나, 실제 연주에서는 여전히 인간에 비해 부자연스러운 움직임을 보였다. 이는 정밀하고 지연 시간이 낮은 로봇 제어가 여전히 AI 분야에서 해결하기 어려운 마지막 개척지 중 하나임을 입증한다.

Google 연구진은 지능의 폭발이 개별 하드웨어 업그레이드가 아닌, 언어나 법률처럼 사회적으로 응집된 인지 단위의 출현에서 비롯된다고 분석한다. 미래의 AI 정렬은 단일 시스템의 안전성을 넘어, 서로 다른 가치를 지닌 수많은 에이전트가 협력하고 경쟁하는 '정신의 사회' 내에서 이루어져야 한다. 따라서 민간 부문의 AI를 견제하고 균형을 맞추기 위해 투명성과 형평성을 갖춘 공공 영역의 AI 시스템 구축이 필수적이다.

Hyperagents는 Meta 에이전트가 과업 에이전트의 프로그램을 수정하는 자가 참조 구조를 통해 코딩 성능을 0.140에서 0.340으로 개선했다. 이 시스템은 Bash 도구와 파일 수정 도구를 사용하여 자신의 프롬프트와 개선 메커니즘을 세대에 걸쳐 반복적으로 진화시킨다. 코딩, 논문 리뷰, 로봇 보상 설계, 수학 채점 등 4개 도메인에서 베이스라인 모델인 Claude 4.5의 성능을 유의미하게 향상시키는 결과가 확인됐다.

HorizonMath는 정답이 알려지지 않은 100개의 수학 문제를 통해 모델의 순수한 추론 능력과 자율적 발견 역량을 측정한다. 데이터 오염을 방지하기 위해 학습 코퍼스에 존재하지 않는 문제들로 구성되었으며, 고정밀 수치 비교와 제약 조건 검사기를 통해 자동화된 검증을 수행한다. 현재 가장 우수한 모델인 GPT 5.4 Pro가 전체 문제의 7%만을 해결했을 정도로 난이도가 높으며, 향후 Lean과 같은 형식 검증 시스템과의 통합이 계획되어 있다.