model-brittleness

일부 입력 분포나 작업에서는 높은 성능을 보이지만 입력이 조금만 달라지면 성능이 급락하는 현상으로, 벤치마크 중심 튜닝과 데이터 분포 편향이 원인일 수 있다. 사이버 작업처럼 연쇄적인 능력이 필요한 환경에서는 이러한 취약성이 전체 작업 성공률을 크게 떨어뜨린다.