OpenAI와 Broadcom, 데이터센터용 LLM 추론 칩 'Jalapeño' 발표

OpenAI와 반도체 기업 Broadcom이 데이터센터에서 대형 언어 모델(LLM) 추론을 위해 설계된 신규 칩 'Jalapeño'를 공동으로 발표했다. 두 회사는 이 칩을 대형 데이터센터에 배치할 예정이며 이번 공개가 장기 개발 프로젝트의 첫 세대임을 밝혔다.

현재 공개 자료는 칩의 목적과 공동 개발 사실을 전하는 수준으로, 성능 수치·전력 효율·아키텍처 세부 사항이나 벤치마크는 포함하지 않는다. 따라서 공개된 정보만으로는 기존 인프라 대비 성능·비용상의 이점을 판단할 수 없다.

향후 세대에서 구체적 사양과 벤치마크가 공개되면 데이터센터의 LLM 운영 비용과 처리량에 직접적 영향을 줄 수 있다. 지금 단계에서는 발표 자체가 중요하지만 기술적 평가를 위해서는 추가 자료가 필요하다.