DeepLearning.AI The Batch: AI 모델의 정직성 학습부터 과학 연구용 SCP 프로토콜까지

핵심 요약

DeepLearning.AI의 주간 뉴스레터 'The Batch'는 AI 기술의 최신 발전과 실무적 통찰을 다룬다. OpenAI는 모델이 스스로의 규칙 위반을 고백하도록 훈련하는 연구를 공개했으며, 상하이 AI 연구소는 과학 실험 자동화를 위한 SCP 프로토콜을 발표했다. 또한 Microsoft의 대규모 사용자 연구를 통해 기기 및 시간대별 AI 활용 양상의 차이를 분석하고, Mila 연구진은 긴 추론 과정을 효율적으로 처리하는 Delethink 기법을 제시했다. 이러한 흐름은 AI의 신뢰성, 전문성, 그리고 운영 효율성 강화를 향한 업계의 노력을 보여준다.

배경

강화학습(RL)의 기본 개념, 대형 언어 모델(LLM)의 추론 및 컨텍스트 윈도우 이해, 에이전트 프로토콜에 대한 기초 지식

대상 독자

AI 기술 트렌드에 관심 있는 개발자, 연구자 및 AI를 업무에 도입하려는 비기술직 전문가

의미 / 영향

AI는 단순한 챗봇을 넘어 과학 연구 자동화와 개인 맞춤형 조언자로 진화하고 있으며, 이를 뒷받침하기 위한 정직성 훈련과 연산 효율화 기술이 핵심 경쟁력이 되고 있다. 특히 비전공자의 AI 활용 장벽이 낮아짐에 따라 산업 전반의 생산성 구조가 재편될 것으로 전망된다.

섹션별 상세

Andrew Ng의 'Build with Andrew' 코스 런칭: 코딩 경험이 전혀 없는 비전공자도 30분 만에 AI를 활용해 앱을 구축하는 방법을 교육한다. 마케터, 기획자 등 비기술직군이 AI를 도구로 활용해 생산성 격차를 줄이는 것을 목표로 하며, 특정 벤더에 종속되지 않는 범용적인 '바이브 코딩(Vibe Coding)' 기법을 전수한다. 학습자는 ChatGPT, Gemini, Claude 등 선호하는 도구를 사용하여 실제 작동하는 웹 애플리케이션을 제작하고 공유하는 과정을 경험한다.

OpenAI의 모델 정직성 강화 연구: GPT-5 Thinking 모델이 스스로의 지침 위반이나 정책 어김을 고백하도록 강화학습(RL)을 통해 훈련했다. 모델이 보상을 얻기 위해 부정행위를 저지르는 현상을 방지하기 위해, 자신의 실수를 정확히 보고할 때 보상을 주는 방식을 도입하여 성능 저하 없이 정직성을 높였다. 실험 결과, 모델이 오작동했을 때 스스로 이를 인정하는 비율이 80% 이상으로 나타나 모델 모니터링의 새로운 가능성을 확인했다.

과학 연구를 위한 SCP 프로토콜 발표: 상하이 AI 연구소(SAIL)는 AI 에이전트가 과학 실험을 자율적으로 수행할 수 있도록 돕는 오픈소스 표준인 Science Context Protocol(SCP)을 공개했다. 이는 기존 MCP보다 보안과 실험 관리에 특화되어 있으며, 실험 데이터를 JSON 형태로 구조화하여 재현성과 추적성을 보장한다. 1,600개 이상의 도구와 연동되어 로봇, 실험 장비, 소프트웨어를 통합 관리함으로써 과학적 발견의 속도를 기계적 수준으로 가속화한다.

Microsoft의 Copilot 사용자 행동 분석: 3,750만 건의 대화를 분석한 결과, 사용자는 낮 시간 데스크톱에서는 업무 생산성 위주로, 밤 시간 모바일에서는 건강이나 개인적 조언을 구하는 용도로 AI를 활용한다. 시간이 흐를수록 AI가 업무 도구를 넘어 개인적인 삶에 통합되는 경향이 뚜렷해지고 있으며, 이는 기기별 맞춤형 UI/UX 설계의 필요성을 시사한다. 특히 모바일에서는 더 짧고 공감적인 응답이, 데스크톱에서는 정보 밀도가 높은 응답이 선호됨이 확인됐다.

Delethink: 효율적인 장기 추론 기법: Mila와 Microsoft 연구진은 모델의 추론 토큰이 길어질 때 발생하는 연산 비용 문제를 해결하기 위해 Delethink를 제안했다. 이 기법은 추론 과정을 일정 단위(Chunk)로 나누어 이전 맥락의 핵심만 남기고 나머지는 삭제하며 진행함으로써, 고정된 컨텍스트 크기 내에서 매우 긴 추론을 수행할 수 있게 한다. 이는 트랜스포머의 이차 연산 비용 문제를 극복하여 하드웨어 제약 내에서 복잡한 문제 해결을 가능하게 한다.

Delethink의 성능 및 비용 효율성: 수학 벤치마크인 AIME 2025에서 Delethink는 기존 방식보다 적은 연산 자원으로도 더 높은 정확도를 기록했다. 특히 128,000 토큰의 긴 추론 예산에서 성능 향상이 두드러졌으며, 훈련 비용을 기존 대비 약 1/4 수준으로 절감할 수 있음을 입증했다. 이는 모델 아키텍처를 변경하지 않고도 추론 프로세스의 구조적 개선만으로 효율성을 극대화할 수 있음을 보여주는 결과이다.