여러 LLM의 답변을 하나로 융합하는 기업용 AI 플랫폼 'CollectivIQ' 출시

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Buyers Edge Platform의 CEO John Davie가 기존 AI 도구의 보안 우려와 할루시네이션 문제를 해결하기 위해 CollectivIQ를 설립했다. 이 플랫폼은 ChatGPT, Gemini, Claude, Grok 등 최대 10개 이상의 모델에 동시에 쿼리를 보내고, 중첩되거나 상이한 정보를 분석해 최적의 답변을 생성한다. 모든 데이터는 암호화되어 기업 정보 유출을 방지하며, 사용량 기반 요금제를 채택해 장기 계약의 부담을 줄였다. 현재 내부 도입 후 외부 공개를 시작했으며, 향후 외부 투자 유치를 계획 중이다.

배경

LLM 및 할루시네이션에 대한 기본 개념, 엔터프라이즈 데이터 보안 요구사항에 대한 이해

대상 독자

기업용 AI 도입을 검토 중인 의사결정자 및 IT 관리자

의미 / 영향

이 플랫폼은 특정 모델에 대한 의존도를 낮추고 여러 모델의 장점을 결합하여 기업용 AI의 신뢰성을 높이는 새로운 접근법을 제시한다. 특히 보안과 비용 효율성을 강조함으로써 AI 도입을 주저하던 보수적인 기업들의 시장 진입을 가속화할 것으로 예상된다.

섹션별 상세

CollectivIQ는 단일 LLM의 한계를 극복하기 위해 여러 모델의 답변을 동시에 수집하고 융합하는 방식을 사용한다. OpenAI, Anthropic, Google, xAI 등 주요 기업의 모델을 포함해 최대 10개 이상의 API를 연동하여 정보의 정확성을 검증한다.

기업 데이터 보안을 최우선으로 설계되어 모든 프롬프트 데이터는 암호화 처리된다. 이는 일반적인 소비자용 AI 도구가 기업 내부 데이터를 학습에 활용할 수 있다는 우려를 해소하기 위한 조치이다.

기존 엔터프라이즈 AI 시장의 고비용 장기 계약 구조에서 벗어나 실제 사용량에 따른 과금 방식을 도입했다. CollectivIQ가 토큰 비용을 지불하고 고객은 사용한 만큼만 비용을 내는 구조로 기업의 진입 장벽을 낮췄다.

할루시네이션 현상을 줄이기 위해 여러 모델 간의 답변 일치 여부를 대조하는 프로세스를 거친다. 소프트웨어가 모델 간의 공통점과 차이점을 검색하여 개별 모델보다 더 정확한 융합 답변을 생성하도록 설계되었다.

실무 Takeaway

단일 LLM의 할루시네이션 리스크를 줄이기 위해 여러 모델의 답변을 교차 검증하는 멀티 모델 쿼리 전략을 활용할 수 있다.
기업용 AI 도입 시 데이터 보안과 학습 제외 설정을 보장하는 엔터프라이즈 API 기반 솔루션을 선택하여 내부 정보 유출을 방지해야 한다.
고정된 구독료 대신 사용량 기반 요금제를 제공하는 도구를 통해 AI 도입 초기 비용 효율성을 극대화할 수 있다.