The Batch: AI가 만드는 새로운 일자리와 최신 모델 트렌드 (GLM-5, LFM2.5, SleepFM)

섹션별 상세

01

앤드류 응은 AI가 인간의 생산성을 높여 소프트웨어 수요를 폭발시키고 '리크루팅 엔지니어'와 같은 새로운 직군을 탄생시킬 것이라고 주장한다.

02

Z.ai의 GLM-5는 7,440억 파라미터(활성 400억)의 MoE 구조로, 28.5조 개의 토큰으로 사전 학습되었으며 에이전트 성능에서 폐쇄형 모델에 근접하는 성과를 냈다.

03

Liquid AI의 LFM2.5-1.2B-Thinking은 Transformer와 CNN을 결합한 하이브리드 아키텍처를 통해 900MB 미만의 메모리로 온디바이스 추론을 구현했다.

04

2025년 메타, 아마존 등 빅테크의 로비 자금이 급증했으며, 이는 데이터 센터 건설 및 칩 수출 규제 완화 등 기업 친화적 정책으로 이어지고 있다.

05

스탠포드 등 공동 연구진이 개발한 SleepFM은 58만 시간의 수면 데이터로 학습되어 알츠하이머, 뇌졸중 등 130여 종의 질병을 최대 6년 전 예측할 수 있다.

전문가 혼합 구조(Mixture-of-Experts (MoE)): — 모델의 전체 파라미터 중 입력값에 따라 필요한 일부 전문가 네트워크만 활성화하여 추론하는 아키텍처이다. GLM-5는 7,440억 개의 파라미터 중 토큰당 400억 개만 사용하여 연산 효율성을 극대화했다.
온디바이스 AI(On-device AI): — 외부 클라우드 서버를 거치지 않고 스마트폰이나 PC 등 기기 자체에서 AI 모델을 실행하는 기술이다. 개인정보 보호와 저지연성이 장점이며, Liquid AI의 LFM2.5 모델처럼 저전력·저메모리 환경에 최적화된 모델이 핵심이다.
곡선 아래 면적(Area Under the Curve (AUC)): — 이진 분류 모델의 성능을 평가하는 지표로, 1에 가까울수록 모델이 질병 유무 등을 정확하게 판별함을 의미한다. SleepFM 연구에서 PTSD나 심부전 예측 성능을 측정하는 핵심 척도로 사용되었다.
컨텍스트 캐싱(Context Caching): — 자주 반복되는 프롬프트나 대량의 데이터를 서버에 미리 저장해두고 재사용하여 API 비용과 응답 시간을 줄이는 기법이다. 긴 대화 기록이나 대규모 문서를 다루는 에이전트 시스템에서 효율성을 높이는 데 필수적이다.