오디오 멀티모달 LLM의 MP3 비트레이트 민감도: 모델별 성능 평가

기존의 음성 전사 파이프라인은 음성 인식(ASR)과 텍스트 교정(LLM)의 두 단계로 나뉘었으나, 최신 오디오 멀티모달 LLM은 이를 단일 과정으로 통합하여 효율성을 높였다. 본 벤치마크는 OpenRouter를 통해 접근 가능한 12개 모델을 대상으로 MP3 비트레이트(16~64kbps) 변화에 따른 전사 성능을 측정했다. 실험 결과, Gemini와 Voxtral 계열 모델은 32kbps 이하에서도 정확도 저하 없이 안정적인 성능을 보였으며, 이는 기존 서비스들이 대역폭을 과도하게 사용하고 있음을 시사한다. 특히 Voxtral 24B는 약 1초의 낮은 지연 시간으로 가장 빠른 성능을 기록한 반면, OpenAI의 GPT-Audio 모델들은 지시 사항을 무시하고 대화형 응답을 출력하는 '대화화(conversationalization)' 오류가 빈번하게 발생했다. 실무적으로는 전사 정확도와 비용 효율을 위해 32kbps 모노 설정을 권장하며, 실시간성이 중요한 경우 Voxtral을, 정확도가 우선인 경우 Gemini 3 Flash를 선택하는 것이 유리하다.