AINews: Cognition 10억 달러 투자 유치 및 최신 AI 기술 동향

섹션별 상세

Cognition은 연간 반복 매출(ARR) 4억 9,200만 달러를 달성하며 엔터프라이즈 시장에서의 강력한 성장세를 입증했다.

추론 비용 절감은 하드웨어 의존에서 벗어나 하이브리드 어텐션, 압축된 KV 캐시, 희소성 설계 등 아키텍처 최적화로 구현된다.

LangChain과 같은 에이전트 프레임워크는 체크포인트 저장 효율화와 버전 관리 기능을 통해 복잡한 코딩 세션의 메모리 사용량을 획기적으로 줄였다.

DeepSWE와 같은 새로운 벤치마크는 실제 소프트웨어 엔지니어링 워크플로우를 반영하여 모델의 실무 해결 능력을 평가한다.

Sakana AI의 DiffusionBlocks는 블록 단위 학습을 통해 메모리 요구량을 줄이면서도 전체 학습 성능을 유지하는 새로운 학습 효율화 방식을 제시했다.

추론 가속 기법(Speculative Decoding): — 작은 모델로 초안 토큰을 빠르게 생성하고 큰 모델로 이를 검증하여 추론 속도를 높이는 기법. 전체 토큰 생성 시간을 단축하여 실시간 서비스 응답성을 개선한다.
KV 캐시(KV Cache): — LLM 추론 시 이전 토큰들의 Key와 Value 값을 메모리에 저장하여 중복 연산을 방지하는 기술. 긴 문맥 처리 시 메모리 사용량과 연산 비용을 결정짓는 핵심 요소이다.
에이전트 워크플로우(Agentic Workflow): — AI 에이전트가 도구 사용, 계획 수립, 실행, 피드백 반영을 반복하며 복잡한 작업을 자율적으로 수행하는 프로세스. 모델 성능보다 시스템 설계가 성과를 좌우한다.
양자화(Quantization): — 모델 가중치의 정밀도를 낮춰 메모리 점유율과 연산량을 줄이는 경량화 기법. 소비자용 하드웨어에서 대규모 모델을 구동 가능하게 한다.