KPMG AI 설문조사: 실험을 넘어 ROI로 나아가는 기업의 조건

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

KPMG의 최신 보고서는 많은 기업이 AI 실험 단계에 머물러 있는 이유로 리더십의 부재를 꼽았습니다. 설문에 따르면 AI 도입이 실제 수익(ROI)으로 이어지기 위해서는 CEO가 직접 전략을 주도하고 조직적인 책임을 명확히 하는 것이 필수적입니다. 특히 성과가 높은 조직은 AI를 단순한 작업 도구가 아닌 함께 논리적 문제를 해결하는 '추론 파트너'로 정의하고, 이러한 활용 능력을 전사적으로 교육하는 특징을 보였습니다.

기술 업계에서는 OpenAI가 자체 설계한 첫 번째 칩을 선보이며 하드웨어 자립도를 높이려는 움직임이 포착되었습니다. 이는 NVIDIA 의존도를 낮추고 추론 효율을 극대화하려는 포석으로 보입니다. 한편 Anthropic은 콘텐츠 투명성을 위해 도입한 'Claude Tag'가 사용자들의 반발을 사며 안전 정책과 사용자 편의성 사이의 균형 잡기가 쉽지 않음을 보여주었습니다.

시장 측면에서는 Micron의 실적 호조가 AI 인프라 수요의 건재함을 증명하며 투자자들의 신뢰를 회복시켰습니다. 고대역폭 메모리(HBM)와 같은 핵심 부품의 수요가 지속되는 가운데, 기업들은 기술적 구현을 넘어 조직 문화와 하드웨어 최적화라는 두 가지 축을 중심으로 AI 경쟁력을 재편하고 있습니다.

섹션별 상세

00:00

KPMG AI 설문조사와 CEO 리더십

KPMG와 텍사스 대학교 오스틴 캠퍼스의 공동 연구에 따르면, AI 성과가 높은 사용자들이 AI를 '추론 파트너'로 대한다는 점이 확인됐다. 기업이 실험 단계를 넘어 실제 수익(ROI)을 내기 위해서는 CEO가 직접 AI 전략을 주도하고 결과에 책임을 지는 구조를 만들어야 한다. 설문 데이터는 리더십의 개입 여부가 AI 프로젝트의 성공과 ROI 달성률을 결정짓는 가장 큰 변수임을 시사했다. 이러한 역량은 전사적인 교육을 통해 대규모로 확산될 수 있다는 점이 강조됐다.

ROI는 투자 대비 수익을 의미하며, 여기서는 AI 도입이 실제 기업 이익으로 연결되는지를 뜻한다.

08:30

OpenAI의 첫 번째 자체 AI 칩 공개

OpenAI가 하드웨어 독립성을 확보하기 위해 직접 설계한 첫 번째 맞춤형 AI 칩을 공개했다. 이 칩은 대규모 언어 모델의 추론 성능을 최적화하고 운영 비용을 절감하는 데 목적을 두고 설계됐다. NVIDIA 가속기에 대한 높은 의존도를 줄임으로써 장기적인 수익성을 개선하려는 전략적 전환점으로 평가받는다. 구체적인 사양은 공개되지 않았으나 하드웨어와 소프트웨어의 수직 계열화를 향한 중요한 진전이다.

맞춤형 실리콘(Custom Silicon)은 특정 작업의 효율을 극대화하기 위해 직접 설계한 반도체를 말한다.

15:45

Anthropic 'Claude Tag' 도입과 사용자 반발

Anthropic이 도입한 'Claude Tag' 기능이 창작자와 개발자 커뮤니티에서 부정적인 피드백을 받고 있다. AI 생성물임을 식별하기 위한 이 태그가 작업 흐름을 방해하고 결과물의 순수성을 해친다는 비판이 제기됐다. 기업 측은 안전과 투명성을 위한 조치라고 설명했으나 사용자들은 기능의 강제성에 불만을 표하고 있다. 이는 AI 안전 정책이 실제 사용자 경험(UX)과 충돌할 때 발생하는 전형적인 갈등 사례를 보여준다.

Claude Tag는 AI가 생성한 콘텐츠임을 나타내는 일종의 워터마크나 표식 기능을 의미한다.

22:10

Micron 실적 전망과 AI 시장 낙관론

Micron이 AI 서버용 메모리 수요 폭증에 힘입어 시장의 기대치를 상회하는 긍정적인 실적 전망을 발표했다. 고대역폭 메모리(HBM)와 같은 고성능 솔루션이 AI 인프라 시장의 필수 요소로 자리 잡으면서 반도체 업계 전반에 낙관론이 확산되었다. 이는 AI 기술에 대한 투자가 하드웨어 인프라 단계에서 여전히 강력하게 유지되고 있음을 입증한다. 공급망의 안정성이 향후 AI 산업 성장의 지속 가능성을 뒷받침하는 핵심 동력으로 재확인됐다.

HBM은 데이터 처리 속도를 높이기 위해 D램을 수직으로 쌓은 고성능 메모리다.

용어 해설

투자 대비 수익(ROI): — 기업이 AI 기술 도입에 투입한 비용 대비 얻은 경제적 이익을 의미한다. 단순한 기술 실험을 넘어 실제 비즈니스 가치를 창출했는지를 판단하는 핵심 지표로 활용된다.
추론 파트너(Reasoning Partner): — AI를 단순한 자동화 도구가 아니라 복잡한 문제를 함께 논리적으로 해결해 나가는 협력자로 대하는 개념이다. KPMG 연구에 따르면 이러한 관점을 가진 조직에서 AI 성과가 더 높게 나타났다.
맞춤형 실리콘(Custom Silicon): — 특정 소프트웨어나 알고리즘에 최적화하여 직접 설계한 반도체 칩이다. OpenAI가 자체 칩을 개발하는 것처럼 범용 칩보다 효율성을 높이고 특정 작업의 비용을 절감하기 위해 사용된다.
고대역폭 메모리(HBM): — 여러 개의 D램을 수직으로 쌓아 데이터 처리 속도를 획기적으로 높인 고성능 메모리다. AI 모델의 대규모 연산을 지원하기 위해 필수적인 하드웨어 부품으로 꼽힌다.

주목할 인용

“The difference between experimentation and ROI may come down to accountability — and whether the CEO is actually leading.”
실험과 ROI의 차이는 결국 책임감, 그리고 CEO가 실제로 리드하고 있는지 여부에 달려 있을 수 있습니다.
Nathaniel Whittemore·01:15
KPMG 설문조사 결과를 요약하며 기업 AI 성공의 핵심 요인을 언급할 때

“The highest-impact AI users treat AI like a reasoning partner.”
가장 큰 성과를 내는 AI 사용자들은 AI를 추론 파트너처럼 대합니다.
KPMG Research·03:40
AI 활용 능력과 성과 사이의 상관관계를 설명하며