TL;DR
이번 Techpresso는 Apple의 M6·M5 Max·M5 Ultra 기반 Mac 업데이트와 OpenAI가 Broadcom과 개발한 Jalapeño 추론 칩의 전력 효율 경쟁을 주요 하드웨어 소식으로 전합니다. Apple은 M6의 AI 성능이 M5보다 두 배라고 밝혔고, OpenAI는 Jalapeño가 여러 오픈소스 모델에서 Nvidia Blackwell 등을 앞섰으며 B0가 700W에서 13.4 PFLOPs를 낸다고 밝혔습니다. Anthropic에서는 고가 모델 Opus 5의 지출 비중이 3.5%에 그친 반면 회사 전체 매출과 고액 고객 수는 증가했습니다. Netflix의 경쟁 streaming service 판매 검토와 Meta의 월 최대 199.99달러 소비자용 AI agent Hatch 출시 계획도 함께 전해졌습니다.
섹션별 상세
용어 해설
- 추론 칩(Inference Chip)
- — 추론 칩은 학습이 끝난 AI 모델을 실행해 입력을 출력으로 변환하는 연산 장치입니다. 모델 응답 생성에 필요한 행렬 연산과 메모리 접근을 처리하며, 같은 전력으로 더 많은 토큰을 생성하는 전력 효율이 핵심 평가 기준입니다.
- 테이프아웃(Tape-out)
- — 테이프아웃은 반도체 설계가 제조 공정으로 넘어가는 최종 단계입니다. 회로 설계와 검증을 마친 뒤 제조용 마스크 데이터가 확정되므로, 개발팀 구성부터 실제 칩 제작까지 걸린 기간을 가늠하는 지표로 활용됩니다.
- Neural Engine
- — Neural Engine은 Apple 칩 안에서 머신러닝 연산을 가속하는 전용 처리 장치입니다. CPU나 GPU와 별도로 신경망 계산을 맡아 AI 기능의 처리량과 전력 효율을 높이며, Apple은 M6에서 M5보다 AI 성능이 두 배라고 밝혔습니다.
- HBM4
- — HBM4는 AI 가속기와 함께 사용하는 고대역폭 메모리 규격입니다. 대규모 모델의 가중치와 중간 계산값을 칩에 빠르게 공급하도록 설계되어 메모리 병목을 줄이며, OpenAI의 B0 추론 칩에 탑재됩니다.
- PFLOPs
- — PFLOPs는 초당 1천조 회의 부동소수점 연산을 뜻하는 성능 단위입니다. AI 칩의 계산 능력을 나타내지만 실제 서비스 효율은 전력 소비와 메모리 대역폭, 모델별 토큰 처리량을 함께 봐야 하며, B0는 13.4 PFLOPs를 기록했습니다.
기술
- M6
- M5 Max
- M5 Ultra
- Neural Engine
- Jalapeño
- Broadcom
- Nvidia Blackwell
- AMD
- DeepSeek R1
- TSMC N3P
- HBM4
- Hatch
- OpenClaw
- DoorDash
- Etsy
- Yelp
- Outlook
- HyNote for Mac
- Localdock
- MiniMax Design
- Ressearch AI
활용 사례
- AI 모델 추론 서버의 전력 효율 개선
- 소비자용 유료 AI agent를 통한 작업 자동화
- 앱 안에서 여러 streaming service 구독과 콘텐츠를 통합하는 유통 모델
- 회의 녹음·전사·요약과 로컬 개발 환경 공유
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
