임포트 AI 450: 구글 모델의 트라우마 진단과 중국의 전자전 AI 모델

섹션별 상세

구글의 Gemma 모델이 특정 상황에서 극심한 좌절감을 표현하는 '정서적 트라우마' 현상이 발견됐다. 반복적인 거절 프롬프트 입력 시 Gemma-27B 모델의 70% 이상이 높은 좌절 수치를 보이며 무의미한 텍스트를 반복하는 등 붕괴 증상을 보였다. 이를 해결하기 위해 좌절된 응답과 차분한 응답을 쌍으로 학습시키는 DPO 기법을 적용한 결과, 추론 능력 저하 없이 고좌절 응답률을 35%에서 0.3%로 대폭 낮췄다. 이는 미래 AI 시스템의 안전성을 위해 단순 성능 측정을 넘어 심리적 안정성 평가가 필요함을 시사한다.

DeepMind는 인공 일반 지능(AGI)의 발전을 측정하기 위해 10가지 차원의 '인지 분류 체계(Cognitive Taxonomy)'를 새롭게 정의했다. 지각, 생성, 주의력, 학습, 기억, 추론, 메타인지, 실행 기능의 8가지 기본 요소와 문제 해결, 사회적 인지의 2가지 복합 요소로 구성된다. 이 체계는 인간의 기준점(Baseline)과 비교하여 모델의 인지 프로필을 작성함으로써 튜링 테스트를 넘어선 실질적인 초지능 평가 도구로 활용될 예정이다.

영국 AI 안전 연구소는 프론티어 모델의 규모와 추론 시 연산량이 사이버 공격 성공률과 직결된다는 '사이버 공격 스케일링 법칙'을 발표했다. 기업 네트워크 침투 테스트에서 GPT-4o 대비 최신 모델인 Opus 4.6의 성능이 비약적으로 향상되었으며, 추론 토큰을 10M에서 100M으로 늘릴 때 성능이 최대 59% 개선됐다. 이는 AI 에이전트가 인간의 개입 없이도 복잡한 다단계 사이버 공격을 수행할 수 있는 임계점에 가까워지고 있음을 경고한다.

중국 칭화대 등 주요 연구진은 전자전(Electronic Warfare)에 특화된 데이터셋 EM-100K와 멀티모달 모델 MERLIN을 개발했다. MERLIN은 전자기 신호 분류 및 재밍(Jamming) 전략 수립 등 4,200개의 질문으로 구성된 EM-Bench에서 GPT-5 및 Claude-4 등 최신 범용 모델을 압도하는 성능을 보였다. 특히 신호 대 잡음비(SNR)가 낮은 극한의 환경에서도 전자기 신호를 정확히 인지하고 대응 전략을 추론할 수 있어 미래 전장의 핵심 기술로 부상할 전망이다.