Apple Machine Learning Research

다양한 사용자 선호도를 반영하기 위해 그룹별 보상 이력을 활용하여 보상을 정규화하는 P-GRPO 프레임워크를 제안한다.

상태 공간 모델(SSM)이 외부 도구를 활용할 때 이론적 한계를 극복하고 임의의 길이에 대해 일반화 성능을 확보할 수 있음을 증명함.

3D 가우시안 스플래팅의 흐릿한 렌더링 문제를 WD-R 손실 함수로 해결하여 지각 품질을 2.3배 높이고 압축 효율을 50% 개선했다.

학습 예산에 따른 LLM의 다운스트림 벤치마크 성능을 직접 예측하는 새로운 스케일링 법칙 프레임워크 제안.

애플 연구진이 LLM을 활용해 복잡한 앱 UI를 여러 파일로 구성된 체계적인 코드로 생성하는 반복적 개발 환경 'Athena'를 개발했다.

기하학적 복잡도와 해상도를 분리하여 장면별 최적화 없이 4K 신규 시점 합성을 가능하게 하는 LGTM 프레임워크 제안.

Transformer가 다음 토큰 생성 전 잠재 공간에서 여러 단계를 미리 내다보며 예측을 정교화하는 Latent Lookahead 훈련 전략을 제안한다.

Apple 연구진이 제안한 Exclusive Self Attention(XSA)은 토큰 자기 자신의 정보를 제외하고 주변 문맥에만 집중하게 하여 Transformer의 시퀀스 모델링 성능을 향상시킨다.

14개 언어로 검증 가능한 추론 문제를 무한히 생성하여 다국어 LLM의 추론 능력을 강화하고 평가하는 Multilingual Reasoning Gym 프레임워크를 소개한다.

RGB-D 데이터를 표면 광장(Surface Light Field)으로 토큰화하여 복잡한 반사 효과를 포함한 3D 객체를 생성하는 새로운 잠재 표현 기법인 LiTo를 제안한다.

Apple 연구진은 부족한 텍스트 관련성 데이터를 보완하기 위해 미세 조정된 LLM으로 수백만 개의 레이블을 생성하여 App Store의 검색 랭킹 성능과 전환율을 개선했다.

애플 연구진은 LLM과 심볼릭 추론을 결합하여 프론트엔드 개발자가 복잡한 UI 컴포넌트의 다양한 디자인 변형을 쉽게 탐색하고 생성할 수 있도록 돕는 도구인 Celestial을 개발했다.

Apple 연구진은 교차 모달 증류와 능동 선택 기법을 결합한 SALAD를 통해 적은 데이터로도 LLM의 음성 이해 성능을 텍스트 모델 수준으로 끌어올리는 데 성공했다.

애플 연구진은 200달러 미만의 비용으로 학습 가능하며 특정 프로그램 합성 작업에서 GPT-5를 능가하는 연구용 소규모 시스템 Cadmus를 발표했다.

특정 입력에 대해 모델이 출력의 정확성을 검증 알고리즘에 직접 증명하는 Self-Proving 모델 프레임워크와 학습 방법론을 제안한다.

연합 학습 환경에서 변분 부등식 문제를 해결하기 위해 클라이언트 드리프트를 억제하는 LIPPAX 알고리즘을 제안하고 수렴 속도를 획기적으로 개선했다.

Apple 연구진이 모델의 너비, 깊이, 배치 크기, 학습 기간을 통합하여 소형 모델에서 최적화한 하이퍼파라미터를 대형 모델로 직접 전이할 수 있는 Complete(d)P 파라미터화 기법을 제안했다.

Apple 연구진이 제안한 Parallel Track Transformer는 멀티 GPU 환경에서 동기화 횟수를 16배 줄여 LLM 추론 처리량을 최대 31.9% 향상시킨다.