Together AI, Rime의 기업용 TTS 모델 Arcana v2 및 Mist v2 출시

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Together AI가 Rime의 proprietary TTS 모델인 Arcana v2와 Mist v2를 자사 플랫폼에 통합했다. Arcana v2는 실제 고객 서비스 데이터를 학습하여 자연스러운 호흡과 추임새를 포함한 표현력이 특징이며, Mist v2는 대규모 환경에서 일관된 발음을 보장하는 결정론적 제어 기능을 제공한다. 두 모델 모두 Together AI의 전용 GPU 엔드포인트에서 실행되어 LLM, STT와 함께 단일 API 환경에서 관리 가능하다. 이를 통해 전체 음성 파이프라인의 지연 시간을 700ms 이내로 단축하여 실시간 대화형 에이전트 구축이 용이해졌다.

배경

Together AI API 사용법, 대화형 AI 파이프라인(STT, LLM, TTS)에 대한 기본 이해, WebSocket 스트리밍 개념

대상 독자

실시간 음성 AI 에이전트를 구축하거나 프로덕션 환경에서 TTS 비용 및 성능을 최적화하려는 개발자 및 기업

의미 / 영향

이번 통합은 파편화되어 있던 음성 AI 스택(STT-LLM-TTS)을 단일 클라우드 플랫폼으로 결합하여 지연 시간과 운영 복잡성을 획기적으로 줄였다. 특히 결정론적 발음 제어와 저지연 추론은 엔터프라이즈 급 음성 AI 서비스의 신뢰성을 높이는 핵심 요소가 될 것이다.

섹션별 상세

Rime의 Arcana v2와 Mist v2 모델이 Together AI 모델 라이브러리에 추가되어 LLM 및 STT 워크로드와 동일한 API 및 관측성 환경에서 사용 가능하다. 기존에는 여러 벤더를 조합해야 했던 음성 스택을 단일 플랫폼으로 통합하여 네트워크 오버헤드를 줄이고 관리 효율성을 높였다.

Arcana v2는 오디오북이나 팟캐스트가 아닌 실제 고객 서비스 대화 데이터를 학습하여 자연스러운 대화 흐름을 구현했다. 모델은 대화 중의 숨소리, 추임새(fillers), 백채널 신호 등을 학습하여 실제 사람과 대화하는 듯한 경험을 제공하며 40개 이상의 음성과 지역별 방언을 지원한다.

Mist v2는 대규모 프로덕션 환경을 위한 결정론적 발음 제어 기능을 제공한다. 사용자가 API를 통해 특정 단어의 발음을 한 번 정의하면 모든 음성과 채널에서 동일하게 렌더링되므로 브랜드명이나 의학 용어 등의 오발음을 방지할 수 있다.

Together AI 전용 엔드포인트에서 Mist v2는 약 225ms의 첫 오디오 생성 시간(TTFA)을 달성했다. 음성 에이전트가 자연스럽게 느껴지기 위한 전체 지연 시간 기준인 700ms를 충족하기 위해 TTS 단계의 지연 시간을 최소화하여 STT와 LLM 처리를 위한 충분한 시간적 여유를 확보했다.

Together AI의 인프라는 SOC 2 Type II, HIPAA, PCI 규정을 준수하여 금융 및 의료 분야의 엄격한 요구사항을 충족한다. 단일 플랫폼에서 전체 음성 스택을 운영함으로써 보안 검토 과정을 간소화하고 데이터 소유권 및 제어권을 유지할 수 있다.

실무 Takeaway

실시간 음성 에이전트 구축 시 Together AI의 전용 엔드포인트를 사용하면 TTS 지연 시간을 225ms 수준으로 낮춰 전체 파이프라인을 700ms 이내로 유지할 수 있다.
브랜드명이나 전문 용어의 발음 정확도가 중요한 경우 Mist v2의 결정론적 발음 API를 활용하여 모든 음성 채널에서 일관된 품질을 보장할 수 있다.
Arcana v2의 실제 대화 기반 학습 데이터를 활용하면 단순 텍스트 변환을 넘어 자연스러운 호흡과 추임새가 포함된 고품질 고객 상담 AI를 구현할 수 있다.

언급된 리소스

API DocsTogether AI TTS Documentation