코히어(Cohere)가 범용 인공지능(AGI) 대신 기업용 AI에 집중하는 이유

섹션별 상세

00:00

구글 브레인에서 코히어 창업까지

닉 프로스트는 구글 브레인(Google Brain)에서 제프리 힌튼(Geoffrey Hinton)과 함께 연구하며 딥러닝의 발전을 목격했습니다. 당시 연구 환경은 학문적 탐구에 집중되어 있었으나, 그는 기술의 실제 적용 가능성에 더 큰 관심을 가졌습니다. 이러한 배경이 코히어를 창업하여 기업들이 인공지능 기술을 실제로 활용할 수 있도록 돕는 계기가 되었습니다. 그는 연구실의 성과가 실제 제품으로 전환되는 과정에서의 간극을 메우고자 했습니다.

03:54

트랜스포머 아키텍처의 지배력과 한계

트랜스포머(Transformer) 아키텍처가 현대 언어 모델의 표준으로 자리 잡은 이유를 분석합니다. 트랜스포머는 병렬 처리가 용이하여 대규모 데이터 학습에 최적화되어 있지만, 단순히 모델의 크기를 키우는 것만으로는 지능의 본질적인 문제를 해결할 수 없다는 점을 지적합니다. 닉 프로스트는 현재의 기술적 우위가 아키텍처의 혁신보다는 연산 자원의 효율적 활용에서 기인했다고 설명합니다. 이는 향후 새로운 아키텍처가 등장할 가능성을 시사합니다.

09:44

범용 인공지능(AGI)에 대한 현실적인 재정의

업계에서 모호하게 사용되는 범용 인공지능(AGI)의 개념을 비판적으로 검토합니다. 인공지능을 새와 비행기에 비유하며, 비행기가 새처럼 날개를 퍼덕이지 않아도 비행이라는 목적을 달성하듯 인공지능도 인간의 사고 방식을 그대로 모방할 필요는 없다고 주장합니다. 코히어는 인간과 똑같은 지능을 만드는 것보다 특정 업무를 인간보다 효율적으로 수행하는 도구를 만드는 데 집중합니다. 이는 기술적 유토피아보다 실용적 가치를 우선시하는 전략입니다.

18:38

기업용 AI를 위한 모델 효율성과 지식 증류

기업 환경에서는 모델의 성능만큼이나 추론 비용과 속도가 중요합니다. 코히어는 거대 모델의 지식을 더 작고 효율적인 모델로 전이시키는 지식 증류(Knowledge Distillation) 기술을 적극적으로 활용합니다. 이를 통해 기업은 적은 연산 자원으로도 고성능의 인공지능 서비스를 운영할 수 있습니다. 닉 프로스트는 무조건적인 모델 크기 경쟁이 아닌, 투자 대비 수익(ROI)을 고려한 모델 최적화가 기업용 AI의 핵심이라고 강조합니다.

25:20

데이터 보안과 프라이빗 배포의 중요성

금융이나 의료와 같이 규제가 엄격한 산업에서는 데이터 유출 방지가 최우선 과제입니다. 코히어는 고객의 데이터를 외부로 유출하지 않고 고객사의 자체 클라우드나 온프레미스 환경에서 모델을 구동할 수 있는 유연한 배포 옵션을 제공합니다. 이는 퍼블릭 클라우드 기반의 소비자용 AI 서비스와 가장 큰 차별점입니다. 기업이 자신의 고유한 데이터를 안전하게 학습시키고 활용할 수 있는 환경을 구축하는 것이 비즈니스 성공의 열쇠입니다.

38:23

에이전트(Agents) 시스템의 실체와 미래

단순히 질문에 답하는 챗봇을 넘어, 스스로 도구를 사용하고 복잡한 작업을 수행하는 에이전트 시스템에 대해 논의합니다. 에이전트는 검색 도구를 사용해 정보를 확인하거나 API를 호출해 실제 업무를 처리하는 능력을 갖추고 있습니다. 닉 프로스트는 에이전트가 완벽한 자율성을 갖기보다는 인간의 업무 흐름 속에서 특정 단계를 보조하는 형태로 발전할 것으로 전망합니다. 이는 기업의 생산성을 실질적으로 높이는 구체적인 수단이 됩니다.

53:24

인공지능이 인프라로서 '지루해지는' 미래

인공지능 기술이 성숙함에 따라 더 이상 뉴스 헤드라인을 장식하는 특별한 기술이 아닌, 전기나 인터넷처럼 당연한 인프라가 될 것이라고 예측합니다. 기술 그 자체에 대한 열광이 지나가고, 그 기술이 비즈니스 프로세스에 얼마나 깊이 녹아들어 가치를 창출하는지가 중요해지는 시점이 올 것입니다. 닉 프로스트는 인공지능이 '지루해지는(Boring)' 순간이 바로 기술이 진정으로 보편화되고 성공했음을 의미한다고 결론짓습니다.

용어 해설

Knowledge Distillation (지식 증류): — 거대 모델(Teacher)의 학습 결과와 지식을 더 작고 효율적인 모델(Student)로 전이시켜 성능을 유지하면서 연산 비용을 줄이는 기법입니다.
Agentic Systems (에이전트 시스템): — 단순히 텍스트를 생성하는 것을 넘어, 외부 도구를 사용하거나 복합적인 단계를 계획하여 특정 목표를 수행하는 인공지능 시스템입니다.
RAG (Retrieval-Augmented Generation): — 모델 외부의 신뢰할 수 있는 데이터 소스에서 정보를 검색하여 생성 결과의 정확성과 신뢰성을 높이는 기술입니다.

주목할 인용

“Scaling transformers does not equal AGI.”
Nick Frosst·14:08
트랜스포머 모델의 규모를 키우는 것만으로 범용 인공지능에 도달할 수 있다는 낙관론에 대해 반박하며

“AI will likely become embedded infrastructure rather than a headline breakthrough.”
Nick Frosst·53:24
인공지능 기술의 미래가 특별한 이벤트가 아닌 일상적인 도구로 정착될 것임을 강조하며

“The goal is not to build a mind, but to build a tool that helps people do their jobs.”
Nick Frosst·12:26
코히어가 인간과 유사한 지능을 만드는 것보다 실용적인 도구 제작에 집중하는 이유를 설명하며