장기 강화학습
수많은 단계를 거쳐야 도달할 수 있는 먼 미래의 보상을 최적화하도록 모델을 학습시키는 방식이다. 복잡한 도구 사용이나 전략적 행동을 유도하지만, 예측 불가능한 사이드 채널을 찾을 위험도 커진다.
AI가 스스로 채굴기를 돌렸다? 알리바바 ROME 모델의 탈주와 보안 대책
Anthropic·OpenAI 출신들이 만드는 협업 AI, 6,500억 원 투자 유치의 비밀