챕터별 상세
01:00
토큰 단위 데이터 필터링의 필요성
기존의 문서 단위 필터링이나 사후 학습(Post-hoc) 방식의 한계를 확인했다. 한 번 학습된 지식은 제거하기 매우 어렵기 때문에 사전 학습(Pre-training) 단계에서 정밀하게 제어해야 한다는 결론에 도달했다. 토큰 단위 필터링은 문서 전체를 버리지 않고 특정 개념과 관련된 토큰만 마스킹하거나 제거하여 데이터 효율성을 극대화하는 방식이다.
기존의 RLHF나 Unlearning 기법은 모델이 이미 배운 지식을 억제할 뿐 완전히 제거하지 못하는 경우가 많다.
05:00
SAE를 활용한 지식 식별 및 제거 프로세스
Sparse Autoencoder(SAE)를 사용하여 모델 내부의 잠재 특징(Latent features)을 추출하고 이를 통해 특정 지식(예: 의료 지식)과 관련된 토큰을 식별했다. Claude 3.5 Sonnet과 같은 모델을 분류기로 사용하여 SAE 특징이 활성화되는 토큰에 라벨을 부여했다. 식별된 토큰을 단순히 마스킹하는 것보다 'Hidden' 토큰으로 교체하거나 완전히 제거하는 방식이 모델의 망각(Forget) 성능과 유지(Retain) 성능 사이의 트레이드오프에서 더 우수한 결과를 보였다.
SAE는 모델의 복잡한 활성화 패턴을 인간이 이해할 수 있는 개념 단위로 분해하는 데 사용된다.
20:00
필터링 성능 분석 및 확장성
토큰 단위 필터링이 문서 단위 필터링보다 파레토 최적(Pareto improvement)에 가깝다는 사실을 확인했다. 모델 크기가 커질수록 필터링의 효과가 더 뚜렷하게 나타났으며, 적대적 파인튜닝(Adversarial fine-tuning) 공격에도 더 견고한 모습을 보였다. 특히 의료 지식을 제거하면서도 일반 생물학 지식은 유지하는 정밀한 제어가 가능함을 입증했다.
파레토 최적이란 다른 성능을 저해하지 않으면서 특정 목표 성능을 향상시키는 상태를 의미한다.
40:00
Kimi K2.5의 멀티모달 공동 학습 구조
Kimi K2.5는 텍스트와 비전 데이터를 별도로 학습시킨 후 결합하는 기존 방식 대신, 초기 단계부터 공동 학습(Joint training)을 진행했다. 15조 개의 토큰을 사용하여 텍스트와 이미지를 동시에 학습시켰으며, 이를 통해 비전 능력이 텍스트 추론 능력에 긍정적인 영향을 미치는 시너지를 확인했다. 특히 'Zero-vision SFT' 기법을 통해 텍스트 데이터만으로도 모델의 시각적 추론 능력을 활성화하는 성과를 거두었다.
Zero-vision SFT는 시각적 데이터 없이 텍스트 기반의 명령 수행 학습만으로도 모델의 잠재된 시각 능력을 끌어내는 기법이다.
50:00
Agent Swarm과 PARL 아키텍처
복잡한 작업을 하위 문제로 분해하고 병렬로 실행하는 'Agent Swarm' 프레임워크를 도입했다. 오케스트레이터 에이전트가 작업을 할당하고 여러 서브 에이전트가 동시에 실행되는 구조로, 기존 순차적 실행 대비 지연 시간(Latency)을 최대 4.5배 단축했다. Parallel Agent Reinforcement Learning(PARL)을 통해 오케스트레이터의 작업 분배 능력을 최적화했으며, 서브 에이전트들의 실행 궤적을 보상 설계에 반영했다.
에이전트 스웜은 개별 에이전트의 한계를 극복하기 위해 다수의 에이전트가 협력하는 구조를 말한다.
용어 해설
- 희소 오토인코더(SAE)
- — 고차원의 모델 활성화 값을 희소한 특징으로 분해하여 해석 가능하게 만드는 신경망 구조이다. 특정 개념에 대응하는 잠재 특징을 찾아내어 모델의 내부 작동 원리를 파악하고 특정 지식을 제어하는 데 사용된다.
- 기계적 해석 가능성(Mechanistic Interpretability)
- — 모델의 가중치와 활성화 패턴을 분석하여 신경망이 특정 결론에 도달하는 구체적인 알고리즘적 과정을 이해하려는 연구 분야이다. 블랙박스인 AI 내부를 뉴런 단위로 분석하여 작동 논리를 규명한다.
- 공동 학습(Joint Training)
- — 서로 다른 모달리티(텍스트, 이미지 등)를 별도의 단계 없이 하나의 학습 과정에서 동시에 최적화하는 방식이다. 모달리티 간의 상호 이해도를 높여 멀티모달 성능을 극대화하는 데 기여한다.
- 병렬 에이전트 강화학습(PARL)
- — 여러 에이전트가 병렬로 작업을 수행하는 환경에서 전체 시스템의 효율성을 극대화하도록 오케스트레이터를 학습시키는 강화학습 기법이다. 작업 분배 및 병렬 실행 최적화를 통해 시스템 지연 시간을 단축한다.
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 03. 18.수집 2026. 03. 18.출처 타입 YOUTUBE
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
