Meta V-JEPA 2.1 모델의 견고성 연구 결과: 크기가 클수록 항상 더 나은 것은 아니다

연구의 엄격한 방법론과 사전 등록된 가설 검증 방식에 대해 긍정적인 반응이 예상되며, 특히 모델 스케일링의 한계를 지적한 부분에 대해 기술적 논의가 활발하다.

• V-JEPA 모델을 사용할 때 무조건 가장 큰 2B 모델을 선택하기보다 1B 모델과의 견고성 비교를 선행해야 한다.
• 데이터 증강(Augmentation) 시 수평 반전이 모델 표현을 크게 바꿀 수 있음을 인지하고 설계해야 한다.

• V-JEPA 2.1은 시간적 변형(프레임 드롭 등)에는 민감하게 반응하여 성능 저하를 예측할 수 있지만, 이미지 노이즈에는 상대적으로 무감각한 분할된 특징 구조를 가진다.
• 모델 파라미터를 1B에서 2B로 늘리는 것이 항상 견고성 향상을 보장하지 않으며, 특정 변형 조건에서는 오히려 성능이 퇴보하는 비단조적 스케일링이 발생한다.
• 수평 반전과 같은 단순한 기하학적 변형이 모델의 표현력을 심각하게 왜곡시키므로 실무 적용 시 방향성에 대한 주의가 필요하다.