다음 상태 예측
다음 토큰·프레임·행동을 직접 예측하는 대신 상태 전이 모델링을 목표로 삼는 접근법으로, 현재 상태와 (숨겨진)동력학·명시적 조건을 입력으로 받아 미래 또는 과거의 상태 분포를 추정한다. Orca에서는 연속 관찰에서 밀집한 전이를, 언어 조건에서 희소한 의미 전이를 학습하는 통합 목표로 사용된다. 이 방식은 서로 다른 모달리티를 한 잠재 공간에서 정렬해 downstream 읽기 기능을 향상시키는 역할을 한다.
