TL;DR
이번 기간 트렌드는 모델 인프라·모델 배포·디코딩 최적화 중심으로 전개됐다. MCP 핵심은 세션 식별자와 핸드셰이크를 제거하고 각 요청에 메타필드를 실어 서버리스·라운드로빈 배포를 가능하게 한 점이며, 그에 따라 입력 요구(input_required), Mcp-Method/Mcp-Name 헤더, ttlMs·cacheScope 캐시 제어가 도입됐다. 모델 측면에서는 Kimi K3가 1-bit 표현으로 파일 크기를 1.56TB→594GB(-62%)로 줄이며 약 78.9% 정확도를 유지한다는 보고가 나왔고, AngelSpec은 추측적 디코딩으로 동시성 4–64 구간에서 end-to-end 1.98–2.40× 속도 향상과 DFly 대비 10.5–11.8% 높은 처리량을 제시했다. 이러한 변화는 대규모 컨텍스트·서버리스 서빙·로컬 실행 가능성을 동시에 밀어올리지만, 모델 품질·호환성·윤리·거버넌스 이슈가 병행되는 한계도 드러난다.
𝕏 실시간 트렌드 토픽
📈 MCP(모델 컨텍스트 프로토콜) 핵심 구조 변화포스트 2
MCP는 서버 측에 유지하던 세션 객체와 Mcp-Session-Id 헤더를 제거하고, 각 요청에 프로토콜 버전·클라이언트 신원·능력을 담는 _meta 필드를 실어 stateless 방식으로 전환했다. 툴의 상호작용은 모델이 읽을 수 있는 핸들을 통해 이어지며, input_required, Mcp-Method/Mcp-Name 헤더, ttlMs·cacheScope 같은 대체 메커니즘이 도입됐다.
- 핸드셰이크와 Mcp-Session-Id가 사라지고, 요청마다 메타 정보를 전송해 어떤 인스턴스든 처리 가능하도록 설계되었다.
- 툴이 중간 입력을 요구하던 흐름은 input_required 응답과 클라이언트의 재요청으로 바뀌어 장기 연결(stream) 의존도를 제거했다.
- 메서드·툴 이름을 Mcp-Method/Mcp-Name 헤더로 옮겨 게이트웨이·레이트리미터가 본문 파싱 없이 라우팅·계량할 수 있게 했다.
- 툴 목록·응답에 ttlMs·cacheScope를 포함해 클라이언트가 툴 카탈로그를 재사용하도록 유도해 재요청 부담을 줄였다.
세션을 서버 외부로 빼고 요청별 메타를 도입하면 라운드로빈 로드밸런서·서버리스 환경에서 인스턴스 재시작·스케일링에 유연성이 확보된다.
연속성 필요한 애플리케이션은 명시적 핸들을 발급받아 모델 인수로 유지해야 하며, 이 방식은 기존의 투명한 세션과는 다른 설계·복구 패턴을 요구한다.
원문 트윗 2개 보기
Akshay
@akshay_pachaar
Stateful vs. Stateless MCP core. (Anthropic's biggest MCP update) Let me explain what that means: Until this release, talking to an MCP server worked like a phone call. Both sides ran an initialize handshake, and the server returned a session id carried on every later request. That session was a live object inside one specific server process, holding the negotiated state. Picture a restaurant where the waiter who took the order is the only one who knows what was ordered. Everything works until that waiter goes home. Because that state lives in one process, a balancer could not spread requests across three MCP server instances. Teams pinned clients with sticky sessions or pushed session state into shared storage, which blocked autoscaling and made a single restart drop every open session. The latest update deletes all of it. The handshake and the Mcp-Session-Id header are gone, and each request now carries its own protocol version, client identity, and capabilities in a _meta field. Clients that want the capability list up front can call server/discover, but nothing requires it. The restaurant works the other way around now. That flips the restaurant around. Every request is a written order slip now, and any waiter can fill it. So any request can land on any instance behind a plain round-robin balancer, with no shared session store. MCP servers become ordinary HTTP services that run on serverless and edge, and survive restarts. Removing sessions broke three features, so each got rebuilt. → Tools that need to ask the user something mid-call used to push that request down a held-open stream. Now the server returns input_required and the client retries with the answers attached. → Method and tool names moved into the Mcp-Method and Mcp-Name headers, so a gateway or rate limiter can route and meter without parsing the JSON-RPC body. → List responses carry ttlMs and cacheScope, so clients cache tool catalogs instead of refetching them on every reconnect. State did not disappear here, it moved somewhere the model can see it. Applications that need continuity get an explicit handle from a tool and have the model pass it back as an argument on the next call. A session id in a header is invisible to the model, while a handle in the arguments is something it can read, thread between tools, and recover from after a failed call. Official Spec: http:// modelcontextprotocol.io/specification/ 2026-07-28 … Since we are on MCP, I also wrote about why the MCP versus CLI debate was the wrong one, and how agents can call tools by writing code instead of loading every schema into context. The article is quoted below.
Akshay
@akshay_pachaar
Stateful vs. Stateless MCP core. (Anthropic's biggest MCP update) Let me explain what that means: Until this release, talking to an MCP server worked like a phone call. Both sides ran an initialize handshake, and the server returned a session id carried on every later request. That session was a live object inside one specific server process, holding the negotiated state. Picture a restaurant where the waiter who took the order is the only one who knows what was ordered. Everything works until that waiter goes home. Because that state lives in one process, a balancer could not spread requests across three MCP server instances. Teams pinned clients with sticky sessions or pushed session state into shared storage, which blocked autoscaling and made a single restart drop every open session. The latest update deletes all of it. The handshake and the Mcp-Session-Id header are gone, and each request now carries its own protocol version, client identity, and capabilities in a _meta field. Clients that want the capability list up front can call server/discover, but nothing requires it. That flips the restaurant around. Every request is a written order slip now, and any waiter can fill it. So any request can land on any instance behind a plain round-robin balancer, with no shared session store. MCP servers become ordinary HTTP services that run on serverless and edge, and survive restarts. Removing sessions broke three features, so each got rebuilt. → Tools that need to ask the user something mid-call used to push that request down a held-open stream. Now the server returns input_required and the client retries with the answers attached. → Method and tool names moved into the Mcp-Method and Mcp-Name headers, so a gateway or rate limiter can route and meter without parsing the JSON-RPC body. → List responses carry ttlMs and cacheScope, so clients cache tool catalogs instead of refetching them on every reconnect. State did not disappear here, it moved somewhere the model can see it. Applications that need continuity mint an explicit handle from a tool and have the model pass it back as an argument on the next call. A session id in a header is invisible to the model, while a handle in the arguments is something it can read, thread between tools, and recover from after a failed call. Official Spec: http:// modelcontextprotocol.io/specification/ 2026-07-28 … Since we are on MCP, I also wrote about why the MCP versus CLI debate was the wrong one, and how agents can call tools by writing code instead of loading every schema into context. The article is quoted below.
📈 Kimi K3: 1-bit 모델과 로컬 실행·파일 축소포스트 1
Kimi K3의 1-bit 빌드는 모델 파일을 1.56TB에서 594GB로 축소해 용량을 약 62% 줄였고, 보고된 지표상 약 78.9% 정확도를 유지했다. 제작진은 Mac Studio + 128GB RAM 환경에서 로컬 실행이 가능하다고 안내했다.
- 모델을 1-bit 표현으로 변환해 저장 공간과 메모리 요구량을 크게 낮추었다.
- 공개된 GGUF 빌드를 통해 사용자가 로컬에서 바로 실행할 수 있도록 배포했다.
- 개발자 문서와 가이드를 통해 설치·실행 환경(예: Mac Studio + 128GB RAM)을 명시했다.
1-bit 압축으로 모델 파일 크기와 로컬 실행 비용을 낮추면 실무자들이 대형 모델을 자체 환경에서 운영할 수 있는 문턱이 낮아진다.
저비트 표현은 저장·메모리 절감 효과가 크지만 특정 작업별 성능 저하 가능성이 존재하므로 작업별 검증이 필요하다.
📈 AngelSpec: 훈련·배포용 추측적 디코딩 오픈소스포스트 1
AngelSpec은 훈련과 배포를 모두 지원하는 추측적 디코딩 프레임워크로, Hy3-A21B 기준 테스트에서 end-to-end로 1.98–2.40× 속도 향상을 보였고 DFly 대비 10.5–11.8% 더 높은 처리량을 보고했다. 코드·논문·모델을 공개했다.
- 추측적 디코딩을 엔드투엔드 워크플로에 통합해 동시성 4–64 범위에서 속도 이득을 확인했다.
- Hy3-A21B용 MTP/DFly drafter 가중치와 훈련 코드를 공개해 재현 가능성을 확보했다.
- 논문·문서·허깅페이스·모델스코프 등 여러 채널로 배포해 접근성을 높였다.
추측적 디코딩을 훈련·배포 레이어까지 정교하게 통합하면 대규모 디코딩 비용과 지연을 낮춰 실시간 서비스의 처리량을 개선할 수 있다.
속도 향상은 하드웨어·동시성 조건에 민감하며, 품질·일관성 트레이드오프와의 균형 점검이 필요하다.
📈 Anthropic 책 스캔·파쇄 논란포스트 8
일부 포스트에서 Anthropic이 대규모로 중고·희귀 도서를 대량 구매해 제본을 절단하고 고속 스캔 후 원본을 파기했다는 주장이 제기되었다. 게시물들은 내부 문서·법원 기록 등 링크를 인용해 해당 행위가 진행됐다고 주장했다.
- 주장에 따르면 Anthropic는 수백만 권 규모의 책을 구매·제본 절단·스캔·재활용하는 과정을 통해 디지털 자료를 내부에 보관했다.
- 해당 행위는 저작권·윤리적 논란을 촉발했으며 관련 문서·법원 기록 일부가 인용되었다는 점이 게시물에 표시되었다.
- 공식 입장이나 독립적 조사 결과는 본 데이터셋 내에서 확인되지 않았다.
게시물 쪽에서는 구매·절단·스캔·파기 과정을 담은 내부 문서·보고를 근거로 Anthropic의 대규모 물리적 도서 파기 주장을 뒷받침하고 있다.
해당 주장에 대한 회사 차원의 확인이나 제3자 조사 결과는 제시되지 않았고, 법적·정황적 해석이 분열되어 있어 단정적 결론 도출에는 추가 증거가 필요하다.
➖ 한국 증시 충격: AI 둔화 우려로 KOSPI 급락포스트 2
한국 증권시장에서는 AI 둔화 우려가 반도체업종 중심의 매도세로 이어져 KOSPI가 거의 6% 하락하면서 서킷브레이커가 연속으로 발동했다는 보도가 나왔다. SK하이닉스는 분기 기준 이익 기록에도 애널리스트 전망에 못 미쳤다는 점이 언급됐다.
- AI 성장 둔화 우려가 반도체·관련주에 집중 매도 압력을 가해 지수 급락을 유발했다.
- SK하이닉스는 분기 실적에서 사상 최대 이익을 보고했으나 시장 기대치에는 미치지 못한 것으로 전달되었다.
- 연속 서킷브레이커 발동은 시장 변동성 증가를 시사한다.
➖ LangChain·Apollo 사례: 멀티에이전트 운영 전환포스트 1
LangChain 관련 공지에서 Apollo의 AI Assistant가 자체 생산 인프라에서 손수 구현한 감독(supervisor)을 deepagents.create_deep_agent로 전환해 프로덕션 트래픽 품질을 유지하면서 마이그레이션했다는 사례가 공유되었다. 이 과정은 스키마 로딩 대신 코드 기반 에이전트 호출을 강조했다.
- 기업은 손수 만든 감독 구조를 유지보수 가능한 코드 기반 deep agent로 교체해 전체 품질을 유지했다.
- 스키마를 대규모로 컨텍스트에 로드하는 방식 대신 도구 호출을 코드로 작성하는 접근을 채택했다.
- 해당 사례는 대규모 실서비스에서 에이전트 설계·운영 전환의 실무적 패턴을 보여준다.
용어 해설
- Model Context Protocol (MCP)(MCP)
- — MCP는 모델과 툴 간의 상호작용 규약으로, 요청별 메타 필드로 클라이언트 능력·버전·신원을 전달하고 툴 핸들을 모델 인수로 주고받는 방식으로 세션 상태를 모델 가시영역으로 옮긴다. 이렇게 하면 서버 측 세션 저장소가 불필요해져 라운드로빈 로드밸런싱·서버리스 배포·재시작 생존성이 개선된다.
- 추측적 디코딩(Speculative Decoding)
- — 추측적 디코딩은 빠른(혹은 약한) 초안 모델을 먼저 실행해 후보 토큰을 제안하고, 그 사이에 강력한 모델의 연산을 병렬화하거나 줄여 전체 디코딩 지연을 낮추는 기법이다. AngelSpec은 이 아이디어를 훈련·배포 수준에서 통합해 엔드투엔드 속도 향상을 도모한다.
- 1비트 양자화(1-bit Quantization)
- — 1비트 양자화는 모델 가중치를 극도로 저비트 표현으로 압축해 저장 용량을 크게 줄이는 기법으로, Kimi K3는 이 방식으로 1.56TB에서 594GB로 모델 파일을 축소하면서도 특정 정확도 지표를 유지했다는 점이 특징이다. 디코딩·메모리·정확도 트레이드오프가 핵심 고려사항이다.
- GGUF
- — GGUF는 대형 모델 가중치와 메타데이터를 담는 경량 파일 포맷으로, 모델 교환·로딩 효율과 호환성 측면에서 사용된다. Kimi K3 같은 오픈 모델이 GGUF 빌드를 배포하면 로컬 실행 환경에서 바로 활용하기 쉬워진다.
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.