TL;DR
이번 기간에는 Qwen3.8-Max-0902가 2.4T parameters와 1M context tokens를 바탕으로 Code Arena: WebDev에서 1,691점을 기록하며 성능·비용 경쟁의 중심에 섰습니다. OpenAI Astra를 둘러싸고 recurrent depth와 loop transformer가 모델의 내부 추론을 얼마나 드러내는지, 그리고 고속 모델을 어떤 방식으로 감시할지에 대한 우려가 이어졌습니다. Fable 5.1은 게임·3D world·simulation 제작 사례와 OpenCode 편입 소식으로 활용 범위를 넓혔고, 음성 대화 중 browser 화면을 공유하는 기능도 확산됐습니다. 연구 측면에서는 MoE layer looping으로 training FLOPs를 6.8–18.0% 줄이는 SMELT와 teacher entropy를 routing signal로 쓰는 Switch Distillation이 소개됐습니다.
𝕏 실시간 트렌드 토픽
🔥 Qwen3.8-Max-0902, Code Arena WebDev 1위와 비용 경계 상단포스트 8
Qwen3.8-Max-0902가 Code Arena: WebDev에서 1,691점으로 종합 1위에 올랐고 blended $5/MToken 가격으로 Pareto frontier 최고점도 차지했습니다.
세부 내용 보기
- Alibaba_Qwen은 Qwen3.8-Max-0902에 2.4T parameters와 1M context tokens를 적용하고 Coding & Cowork 기반 post-training을 거쳐 enterprise tasks, scientific research, long horizon workflows를 겨냥했습니다. 입력은 토큰과 긴 문맥이고, 처리 과정에는 Coding & Cowork 후학습이 들어가며, 출력은 복잡한 업무용 응답과 코드 작업 성능으로 나타납니다. 가격은 1M tokens당 $2 input, $6 output이며 explicit cache hit는 $0.17, implicit cache hit는 $0.25입니다.
- Code Arena: WebDev에서 기존 Qwen3.8-Max의 1,669점에서 1,691점으로 상승했고, Claude Opus 5 (Max)보다 3점, Kimi K3 (Max)보다 17점, 이전 Qwen3.8-Max보다 22점 높았습니다. 세부 부문에서는 Data & Analytics와 Consumer Product 1위, Brand & Marketing·Gaming·Simulations 2위, Content Creation Tools·Reference-Based Design 3위를 기록했습니다.
- 성능만이 아니라 비용까지 함께 보는 평가에서 Qwen3.8-Max-0902가 상단에 위치하면서, WebDev용 모델 선택 기준이 절대 점수와 토큰 가격의 동시 비교로 이동했습니다.
원문 트윗 2개 보기
Arena.ai
Big news: Qwen3.8-Max-0902 by @Alibaba_Qwen just debuted at #1 overall in the Code Arena: WebDev with 1691 pts! It scores 3 pts above Claude Opus 5 (Max), 17 pts above Kimi K3 (Max), and 22 pts above the previous Qwen3.8-Max. Priced at a blended $5/MToken, Qwen3.8-Max-0902 also claims the highest-scoring position on the Pareto frontier! Stay tuned for a closer look at its Pareto positioning, and for Agent Arena scores coming soon. Its strength carries across every Code Arena: WebDev category: - #1 in Data & Analytics and Consumer Product - #2 in Brand & Marketing, Gaming, and Simulations - #3 in Content Creation Tools and Reference-Based Design Congrats to the @Alibaba_Qwen team on this huge update!
Qwen3.8-Max just got upgraded. Meet Qwen3.8-Max-0902! 2.4T parameters. 1M context tokens. Built for real world complexity. Further post trained on Coding & Cowork, Qwen3.8-Max-0902 now delivers stronger performance across complex enterprise tasks, scientific research, and
Qwen
#1 on CodeArena: WebDev leaderboard. Qwen3.8-Max-0902 jumps from 1669 to 1691, setting a new record for agentic coding (WebDev) workflows, with standout strength in multistep reasoning, tool use, and full app generation. Thanks for the recognition! @arena
Big news: Qwen3.8-Max-0902 by @Alibaba_Qwen just debuted at #1 overall in the Code Arena: WebDev with 1691 pts! It scores 3 pts above Claude Opus 5 (Max), 17 pts above Kimi K3 (Max), and 22 pts above the previous Qwen3.8-Max. Priced at a blended $5/MToken, Qwen3.8-Max-0902 also x.com/Alibaba_Qwen/s…
📈 Astra의 recurrent depth와 드러나지 않는 추론 과정포스트 4
OpenAI Astra와 연결된 것으로 거론된 recurrent depth·loop transformer가 성능과 test-time computation을 키우는 대신 thinking traces의 가시성과 감시 가능성에 관한 우려를 낳았습니다.
세부 내용 보기
- 관련 포스트들은 frontier labs가 loop transformer와 유사한 기법을 사용하며, OpenAI가 Astra에서 loop에 제한을 두고 CoT를 보이게 하려 한다고 전했습니다. recurrent block을 반복해 latent space에서 계산을 늘리는 구조가 모델 출력으로 드러나는 thinking traces와 별개로 작동한다는 점이 핵심입니다.
- Amir는 기사 내용이 OpenAI의 접근을 과장해 이해한 것이라고 했고, 다른 AI 개발사가 같은 제한을 지키지 않을 가능성을 우려했습니다. 별도 포스트는 recurrent depth를 사용하면 model costs와 performance를 조정할 수 있지만 thinking process가 가려져 monitoring이 어려워진다고 전했습니다.
- 논점은 숨겨진 내부 연산 자체와 출력으로 확인 가능한 추론 흔적을 구분하는 데 있습니다. 모델이 더 많은 계산을 내부 latent space에서 수행할수록 성능 향상과 보안 감시 사이의 균형이 개발 조건으로 남습니다.
recurrent depth와 loop transformer는 recurrent block 반복으로 test-time computation을 늘려 성능과 비용 특성을 조정하는 연구 방향으로 평가됩니다.
thinking traces가 외부에 충분히 드러나지 않으면 모델의 행동을 감시하고 보안 문제를 확인하기 어려워질 수 있다는 우려가 나왔습니다.
관련 포스트들은 Astra에 실제로 어떤 논문이나 기법이 적용됐는지 단정하지 않고, 구조적 유사성과 보도 내용을 구분해야 한다고 봅니다.
원문 트윗 2개 보기
Amir Efrati
There seems to be a misunderstanding about the piece and what OpenAI is up to. There are new techniques at frontier labs that involve loop transformers and similar. As we say in the piece, OpenAI is putting limits on the loops and trying to make sure CoT is visible with Astra. The concern is that other AI developers may not hold themselves to such limits.
new: OpenAI & others quietly using loop transformers that don't show their 'thinking' when scaled up a leap forward on performance, but sparking concerns inside & outside OpenAI re: security as this takes off
Emad
I see a lot of my TL freaking out about this Here is the reality: Frontier models will one shot just about anything at 10,000 tokens per second in a few years Do you really think we can monitor that? Would need speed limits on the model that it would code around anyway
OpenAI’s Astra AI uses a new reasoning approach called “recurrent depth.” Though it can help model costs and performance, researchers are concerned bc it obscures a model’s thinking process, making it more difficult to monitor. w/ @amir @rocketalignment https:// theinformation.com/articles/secre t-technique-behind-openais-astra-model-sparks-security-concerns …
📈 Fable 5.1의 게임·3D world 제작과 OpenCode 편입포스트 2
Fable 5.1 출시 직후 게임을 한 번에 만들고 3D world와 simulation을 생성했다는 사례가 공유됐으며, OpenCode에서도 이용할 수 있게 됐습니다.
세부 내용 보기
- Anthropic이 Fable 5.1을 출시한 지 24시간이 지나지 않아 게임 one-shot 제작, 3D worlds 구축, simulations 생성 사례가 공유됐습니다. 입력은 자연어 지시이고, 모델의 처리 결과는 게임·가상 공간·시뮬레이션 제작물로 이어지는 방식입니다.
- OpenCode는 Fable 5.1이 이제 OpenCode에서 제공된다고 알렸습니다. 별도 포스트는 출시 직후 10개 사례를 모아 실제 제작 흐름에서의 사용 장면을 공유했지만, 사례별 성능 수치나 제작 조건은 원문에 없습니다.
- 이번 흐름은 Fable 5.1의 관심이 모델 출시 소식에 머물지 않고 제작 도구 안에서의 접근성과 즉시 실행 사례로 옮겨갔다는 점에 있습니다.
🔥 음성 대화 중 browser 화면 공유 기능포스트 1
@SpaceXAI 관련 음성 대화 모드에서 사용자가 browser 화면을 공유하면 voice model이 화면 내용을 보고 작업을 안내하는 기능이 주목받았습니다.
세부 내용 보기
- 인용된 포스트는 voice conversation mode에서 browser 화면을 공유하고, voice model이 사용자가 하는 일을 확인하면서 원하는 작업을 단계별로 안내할 수 있다고 전했습니다. 입력은 음성 대화와 화면이며, 출력은 화면 맥락을 반영한 음성 안내입니다.
- 기능의 핵심은 음성 모델이 단순 음성 입력만 받는 대신 browser 화면의 시각적 상태를 대화 맥락에 함께 넣는 데 있습니다. 원문에는 지원 범위, 모델명, 출시일, 정확도 수치가 따로 제시되지 않았습니다.
- 사용자가 화면을 설명하거나 별도 캡처를 전달하지 않아도 작업 상태와 안내를 한 흐름으로 연결하는 인터페이스가 실제 사용 사례로 부각됐습니다.
➖ X 알고리즘의 일일 업데이트와 첫 공개 기여포스트 1
X Open Source가 오픈소스 X algorithm을 2주 넘게 매일 업데이트하고 GitHub pull request 기반 변경을 처음으로 서비스에 반영했다고 알렸습니다.
세부 내용 보기
- X Open Source의 포스트에 따르면 오픈소스 X algorithm은 2주 넘게 매일 업데이트됐고, GitHub repository에 제출된 Pull Request의 작은 변경 하나가 X에 실제 반영됐습니다. 입력은 외부 contributor의 코드 변경이고, 처리 과정은 저장소 반영과 서비스 통합이며, 출력은 X에서 동작하는 알고리즘 업데이트입니다.
- @elonmusk는 이 소식에 “Transparency builds trust”라고 답했습니다. 공개된 정보에는 반영된 Pull Request의 세부 기능이나 알고리즘 성능 변화 수치가 포함되지 않았습니다.
- 외부 기여가 저장소에 머물지 않고 실제 서비스 변경으로 연결되는 경로가 공개되면서, 알고리즘 투명성은 코드 공개와 운영 반영 절차를 함께 확인하는 문제로 확장됐습니다.
➖ DreamX-Creator의 단일 패스 2K audio-visual 생성포스트 1
DreamX-Creator가 single frame과 text를 입력받아 lip-sync와 Foley가 맞물린 native synced 2K audio-visual을 cascade 없이 한 번에 생성하는 구조로 소개됐습니다.
세부 내용 보기
- DreamX-Creator 1.0은 single-frame과 text를 입력으로 받고 native synced 2K audio-visual을 출력합니다. 생성 과정에는 lip-sync, Foley, modality-aware RL, 1-step autoregressive refine이 포함되며 cascade는 사용하지 않습니다.
- @Alibaba_Wan은 이 모델이 Wan2.2를 기반으로 한다고 밝혔고, 인용된 원문은 7B model이라는 규모를 함께 적었습니다. 한 번의 생성 경로에서 영상과 음향의 시간적 동기화를 함께 처리하는 점이 기존의 여러 단계 결합 방식과 구별됩니다.
- 단일 프레임에서 캐릭터와 장면을 출발점으로 삼아 영상·음향을 동시에 만드는 흐름은 audio-visual 생성 파이프라인의 입력과 출력 구성을 단순화하는 방향입니다.
➖ SMELT와 Switch Distillation의 학습 비용·기억 균형포스트 2
두 연구는 MoE layer looping으로 compute-optimal 학습 비용을 줄이고, teacher 확신도에 따라 mid-training 증류 신호를 선택하는 방법을 각각 제시했습니다.
세부 내용 보기
- SMELT는 Mixture-of-Experts Transformer의 middle half layers를 두 번 반복하면서 per-token FLOPs, total non-embedding parameters, KV cache를 unlooped Baseline과 맞췄습니다. 네 가지 규모로 최대 54B non-embedding parameters까지 확장하고 architecture별 Chinchilla-style scaling law를 적합한 결과, compute-optimal frontier에서 training FLOPs 6.8–18.0% 절감이 나타났습니다.
- Knowledge Distillation 연구는 standard forward Kullback-Leibler distillation이 pre-training과 mid-training에서 다르게 작동한다고 측정했습니다. mid-training에서는 reasoning gains가 이어졌지만 factual recall 습득이 느려졌고, Switch Distillation은 teacher predictive entropy를 routing signal로 사용해 확신도 높은 토큰에는 distillation을 적용하고 나머지에는 cross-entropy를 적용합니다.
- 두 연구 모두 학습 예산을 고정한 채 내부 계산 경로 또는 teacher 신호를 조정해 효율을 얻으려는 접근입니다. SMELT는 layer 실행 구조를, Switch Distillation은 토큰별 학습 목표를 바꿔 reasoning과 factual recall 사이의 균형을 다르게 맞춥니다.
원문 트윗 2개 보기
Tanishq Mathew Abraham, Ph.D.
SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers "We study looping on Mixture-of-Experts Transformers while closely matching per-token FLOPs, total non-embedding parameters, and KV cache. Through a series of ablations, we arrive at a recipe we call SMELT (Sparse MoE Transformer, middle layers Loop Twice), which loops the middle half of layers twice while matching the unlooped Baseline on all three budgets. We scale SMELT across four sizes up to 54B non-embedding parameters and fit a separate Chinchilla-style scaling law for each architecture. SMELT’s loss drops faster with compute, saving 6.8–18.0% of training FLOPs on the compute-optimal frontier." paper link: https:// arxiv.org/abs/2609.01343
Tanishq Mathew Abraham, Ph.D.
Knowledge Distillation During Mid-Training Favors Reasoning over Factual Recall "we find that forward Kullback-Leibler (KL) distillation--the standard KD formulation--with post-trained teachers behaves fundamentally differently during mid-training" "while forward KD simultaneously improves reasoning and factual recall during pre-training relative to standard next-token prediction (NTP), it instead slows factual recall acquisition during mid-training despite continued reasoning gains." "we propose Switch Distillation, a simple mid-training objective that distills on tokens where the teacher is confident, using teacher predictive entropy as a lightweight routing signal, and otherwise falls back to cross-entropy" code: https:// github.com/facebookresear ch/midtraining-distillation … paper link: https:// arxiv.org/abs/2609.01532
➖ LangSmith Messages View와 에이전트 trace 재생포스트 1
LangSmith의 Messages View는 agent가 경험한 형태로 conversation과 tool calls를 재생해 인프라 팀이 아닌 builder도 에이전트 동작을 추적하도록 설계됐습니다.
세부 내용 보기
- 에이전트가 실패했을 때 대화 기록과 tool calls를 agent가 실제로 경험한 형태로 재생하면 문제 발생 지점을 확인할 수 있다는 실무 관점이 제시됐습니다. 입력은 agent trace이고, 처리 과정은 conversation과 호출 기록의 재생이며, 출력은 디버깅에 필요한 실행 맥락입니다.
- LangSmith의 Messages View는 agent traces를 인프라 팀 전용 데이터가 아니라 일반 builder가 읽고 재현할 수 있는 메시지 흐름으로 바꾸는 기능입니다. 원문에는 성능 개선 수치나 지원 모델 목록이 없습니다.
- 에이전트가 여러 도구를 호출하는 구조에서는 최종 답변만 보는 것보다 각 호출 전후의 메시지와 도구 입력을 재생하는 방식이 오류 원인 파악에 직접 연결됩니다.
용어 해설
- 반복 깊이(Recurrent Depth)
- — 모델 내부의 recurrent block을 여러 차례 반복 실행해 test-time computation을 확장하는 방식입니다. 반복 과정이 latent space에서 진행되면 외부에 드러나는 thinking traces와 실제 내부 연산 사이에 차이가 생길 수 있습니다.
- 파레토 프런티어(Pareto Frontier)
- — 모델의 성능과 토큰 비용을 함께 비교해, 어느 한쪽을 개선하려면 다른 쪽을 희생해야 하는 지배적 선택지의 경계를 뜻합니다. Qwen3.8-Max-0902는 Code Arena 점수와 blended $5/MToken 가격으로 이 경계의 최고점에 올랐습니다.
- 에이전틱 코딩(Agentic Coding)
- — 모델이 여러 단계의 추론과 tool use를 거쳐 코드를 작성하고 애플리케이션을 완성하는 작업 방식입니다. Qwen3.8-Max-0902는 WebDev 평가에서 multistep reasoning, tool use, full app generation 성능으로 측정됐습니다.
- 지식 증류(Knowledge Distillation)
- — teacher model의 예측 분포를 student model 학습 신호로 사용하는 방법입니다. 원문에서는 mid-training 중 teacher의 확신도가 높은 토큰에만 증류를 적용하고, 나머지는 cross-entropy로 처리하는 Switch Distillation이 제안됐습니다.
- 모달리티 인식 강화학습(Modality-aware RL)
- — 텍스트·이미지·오디오처럼 서로 다른 입력과 출력 양식을 구분해 학습 신호를 조정하는 강화학습 방식입니다. DreamX-Creator는 이 방식을 사용해 단일 프레임과 text에서 lip-sync·Foley가 맞물린 2K audio-visual 출력을 한 번에 생성합니다.
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
