OpenAI가 첫 추론용 칩 'Jalapeño'를 공개하다

이 뉴스레터는 OpenAI의 첫 자체 AI 프로세서 공개와 Anthropic의 Slack 내 상시 에이전트 배치 등 최신 테크·AI 소식을 요약한다. OpenAI는 Broadcom과 협력해 추론 전용 ASIC인 Jalapeño을 공개했고, Anthropic은 채널별로 고유 계정과 권한을 가진 'Claude Tag'를 베타로 내놓아 협업 공간에서 에이전트가 지속적으로 지식을 축적하고 독립적으로 동작하도록 설계됐다. 그 밖에도 Meta의 게임형 예측 시장 앱 개발 소식과 Mistral의 OCR 모델 성능 주장, 시뮬레이터·자동화 도구 관련 연구 성과가 함께 전해졌다.

OpenAI의 칩은 추론을 위한 전용 하드웨어로 설계되어 데이터센터에서 모델 응답 처리 시 전력 효율을 높이는 것을 목표로 하며, 회사는 다세대 컴퓨트 플랫폼을 연말까지 배치할 계획임을 밝혔다. Anthropic의 Claude Tag는 채널별 계정과 'agent identity'로 접근 권한과 토큰 지출 한도를 설정하고 채널 단위로 지식을 축적하는 구조를 사용해 협업형 자동화와 관리 통제를 병행한다. 뉴스 목록에는 Mistral의 OCR이 블라인드 테스트에서 72% 우세를 보였다는 주장과, 1천만 건 이상의 실제 상호작용으로 학습된 가상 시뮬레이터가 복잡한 작업의 다음 단계를 예측할 수 있다는 연구 결과도 포함되어 있다.

하드웨어 측면에서는 추론 전용 ASIC 도입이 대규모 LLM 운영에서 전력 대비 성능 및 비용 구조를 바꿀 수 있고, 소프트웨어 측면에서는 채널 단위 계정·지출 한도 같은 제어 장치가 협업형 에이전트의 실용적 운용을 가능하게 한다. 다만 여러 성과는 초기 테스트나 기업 발표에 기반하므로 독립적인 벤치마크와 규제·윤리적 검토가 뒤따라야 한다는 한계가 존재한다.