본문으로 건너뛰기

피드 트렌딩 커뮤니티 공지사항 기술 태그 AI 용어 사전 서비스 소개 문의 운영 정책 개인정보 처리방침

매일 업데이트되는 글로벌 소스의 AI/ML 뉴스를 수집하고 한국어로 요약합니다.

AI Trends·후원

피드 트렌딩 커뮤니티 공지

피드 트렌딩 커뮤니티 공지

Groq API (groq-api) 용어 설명 | AI Trends

groq-api

Groq API

중급

LPU(Language Processing Unit)를 사용하여 LLM 추론 속도를 극대화한 서비스로, 실시간 응답이 필요한 애플리케이션 개발에 필수적이다.

비슷한 개념

groq lpu sglang api-caching context-tokens t-s-tokens-per-second tensorrt-llm voice-agent-api

← 용어 사전 전체 보기