Import AI 454: 자동화된 정렬 연구, 중국 모델 안전성 평가, HiFloat4

AI 연구 자동화, 하드웨어 효율성, 모델 안전성 평가 등 AI 분야의 최신 연구 성과를 다룸. Anthropic은 Claude 에이전트를 활용해 약한 모델이 강한 모델을 감독하는 정렬 연구를 자동화하여 인간 연구원보다 높은 성과를 기록함. Huawei는 Ascend NPU에서 FP4 정밀도를 최적화하는 HiFloat4 포맷을 개발하여 기존 MXFP4 대비 손실 오류를 줄임. Kimi K2.5 모델의 안전성 평가 결과, 서구권 모델과 유사한 능력을 보이면서도 특정 분야에서 낮은 거부율을 나타냄. 이러한 연구들은 AI가 스스로 연구 방향을 설정하고 하드웨어 효율을 극대화하는 자율적인 기계 경제로의 전환 가능성을 시사함.