singleflight

singleflight는 중복된 동시 요청을 하나로 합쳐서 단일 실행으로 처리하고 결과를 공유하도록 하는 Go 동시성 유틸리티이다. 동일한 키로 들어온 여러 요청이 동시에 외부 API나 비용이 큰 연산을 호출하는 것을 방지해 트래픽 스파이크와 중복 비용을 줄인다. 원문에서는 음성 스트림의 부분 전사로 인해 동일 문자열 요청이 빈번하게 발생할 때 임베더 호출을 한 번으로 합치기 위해 사용되었다.