본문으로 건너뛰기
X (Twitter)조회 2

Gemini 3.7 Flash 확장, 로컬 Qwen3.8-27B, 에이전트 운영 계층화

모델 배포 경쟁이 앱·GPU·에이전트 운영 계층으로 확장

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

이번 포스트에서는 Gemini 3.7 Flash의 GeminiApp·Google Search·Google Workspace 확대와 Claude Code의 Auto mode처럼 모델 기능이 실제 작업 환경에 깊게 결합되는 흐름이 이어졌습니다. Qwen3.8-27B는 4-bit GGUF와 17GB RAM 실행 사례를 통해 로컬 배포와 단일 GPU 성능 경쟁의 기준을 끌어내렸고, Faraday는 장기 시계열 강화학습으로 연구 논문 재현을 수행하는 AI Scientist 사례를 만들었습니다. 동시에 에이전트 운영에서는 모델 라우팅, 반복 실행, 도구 호출, 관측 데이터, 테스트용 mock 인프라가 별도 계층으로 정리되고 있습니다. Anthropic의 Watermarking·Risk Report와 Databricks의 AI Spend Controls는 생성물 출처와 에이전트 비용을 운영 정책 안에서 관리하려는 움직임을 담고 있습니다.

𝕏 실시간 트렌드 토픽

🔥 Gemini 3.7 Flash의 업무 도구 확장포스트 4

Gemini 3.7 Flash가 GeminiApp을 넘어 Google Search의 AI Mode, Google Workspace, Gemini API와 Gemini Spark로 배포 범위를 넓혔습니다. 수십 개 파일과 이메일을 연결하는 다단계 작업, Sheets 정리, 협상 이메일 작성에서 추론 정확도와 tool use 개선이 핵심입니다.

  • Gemini 3.7 Flash는 Pro·Ultra 사용자를 대상으로 Gemini chat에 제공되며 Gemini Spark, 영어 Google Search AI Mode, Google Workspace의 Sheets canvas로 범위를 넓혔습니다. 기존처럼 모델을 별도 실험하는 대신 검색·문서·스프레드시트 입력을 한 흐름에 연결해 다단계 작업을 처리하는 배포 방식입니다.
  • GeminiApp 설명에 따르면 수십 개 파일과 이메일의 정보를 하나의 문서로 연결하고, Gemini Spark에서는 공급업체를 Sheets로 정리하거나 협상 이메일을 작성합니다. Google Workspace 앱을 위한 tool use가 입력 처리와 실행 단계 사이를 잇는 구조이며, 게시물은 reasoning과 accuracy가 개선됐다고 밝혔습니다.
  • Google은 Gemini 3.7 Flash를 Gemini API, Google AI Studio, Antigravity, Gemini Enterprise Agent Platform에도 제공한다고 밝혔습니다. 같은 모델을 채팅·검색·업무용 앱·개발자 API에 배치하면서 모델 업데이트가 단일 제품 기능이 아니라 여러 실행 환경의 공통 기반으로 작동합니다.
원문 트윗 2개 보기

Google Gemini

@GeminiApp

Gemini 3.7 Flash is now available to all Pro and Ultra users in Gemini chat. This model update delivers improved reasoning and accuracy for multi-step tasks like intelligently connecting the dots across dozens of files and emails into one master document. Give it a try today on the web or in the app!

Google Gemini

Gemini Spark now runs on Gemini 3.7 Flash. Whether you’re using Spark to compile vendors into Sheets or draft negotiation emails, 3.7 Flash makes your personal AI agent more precise and accurate with improved tool use for @GoogleWorkspace apps to help turn ideas into action.

💬 6 12 57👁 7131

Google AI

@GoogleAI

It’s (finally) Friday Here’s our end-of-week recap: — This year’s @madebygoogle lineup (Pixel 11 series, Pixel Watch 5, and Pixel Tag) brings new AI integrations across devices. A few of the key announcements were Magic Capture for simultaneous video and photo capture, Rambler’s AI voice typing and text transformation, and expanded Live Transcribe for real-time ASL-to-text translation using the Pixel camera. Tying it all together is Gemini Intelligence, our proactive, agentic AI layer to anticipate user needs. — Gemini 3.7 Flash, our most intelligent workhorse model yet for coding and agents, is now available in the Gemini API via @googleaistudio , @antigravity , Spark in the @geminiapp , and the Gemini Enterprise Agent Platform. It’s also rolling out to paid users on @googleworkspace , Gemini App, and Search. — @GoogleDeepMind 's WeatherNext 2, an AI forecasting tool that can give meteorologists an extra day of accuracy when predicting a cyclone's track, intensity, and wind structure, is now open source. — The upgraded @Gemini_Notebook experience has been fully rolled out to all Pro users and the ability to copy a notebook has been rolled out to all users.

💬 0 0 4👁 2173

📈 Claude Code Auto mode의 권한 자동화포스트 2

Claude Code가 shell command와 작업을 별도 classifier로 확인하는 Auto mode를 Pro·Max·Team 사용자의 기본 permission mode로 배포했습니다. 테스트에서 위험한 명령의 89%를 잡았다는 수치와 수동 승인 방식의 14%가 함께 제시됐습니다.

  • Claude Code의 Auto mode는 shell command와 작업을 별도 classifier로 평가한 뒤 권한 결정을 보조합니다. 수동으로 모든 실행을 승인하던 흐름에서 저장소와 trusted repo·domain 정보를 바탕으로 안전성 판단을 자동화하는 구조로 이동합니다.
  • 환경 설정에는 `/auto-mode-setup` 명령이 쓰이며, Claude가 저장소를 훑어 검토할 trusted repo와 domain을 추천합니다. classifier가 실행 환경의 맥락을 더 많이 확보할수록 허용 가능한 명령과 위험한 명령의 경계를 구체화할 수 있다는 설명입니다.
  • 인용된 테스트에서는 Auto mode가 위험한 command의 89%를 포착했고 manual approval은 14%를 포착했습니다. 사용자는 Shift+Tab으로 mode를 바꾸거나 설정의 `defaultMode`로 특정 모드를 고정할 수 있어 자동화와 수동 통제 사이를 선택할 수 있습니다.
원문 트윗 2개 보기

🔥 Qwen3.8-27B의 로컬 실행 경쟁포스트 3

Qwen3.8-27B가 4-bit GGUF와 Unsloth Dynamic GGUFs를 통해 17GB RAM 또는 단일 RTX 5090에서 실행되는 사례로 확산됐습니다. 동일 과제에서 여러 agent 구성을 비교한 출력량·소요 시간 수치도 함께 공유됐습니다.

  • Unsloth는 Qwen3.8-27B를 4-bit GGUF로 변환해 Unsloth Desktop에서 화산 시뮬레이션을 생성하는 사례를 공유했고, 17GB RAM에서 실행 가능한 Dynamic GGUFs와 NVFP4 quants를 함께 올렸습니다. 양자화가 모델을 로컬 하드웨어에 맞추는 입력 단계이고 GGUF가 실제 실행 파일 형식으로 이어지는 배포 경로입니다.
  • 한 게시물은 Qwen3.8-27B가 여러 benchmark에서 Claude Opus 4.6 Max를 앞서며 단일 RTX 5090에 들어간다고 전했습니다. 다른 비교에서는 같은 게임 재구축 과제에서 Atomic Agent가 5,535 lines·19 modules·2시간 35분, Hermes가 10,424 lines·109 modules·4시간 15분, Prime이 12,226 lines·129 modules·4시간 42분을 기록했습니다.
  • 공개된 사례들은 파라미터 규모가 큰 모델을 원격 API로만 쓰지 않고 양자화와 agent harness 조합으로 로컬 실행하는 흐름을 담고 있습니다. 모델 자체의 출력 품질뿐 아니라 메모리 요구량, 실행 시간, 생성 모듈 수가 실제 선택 기준으로 함께 다뤄졌습니다.
원문 트윗 2개 보기

📈 Faraday의 과학 연구용 coding agent포스트 2

Faraday가 27B-parameter AI Scientist로서 coding agent에 과학적 직관 계층을 더하고, 장기 시계열 RL로 연구 논문 재현 작업을 수행했습니다. 게시물은 결과 재현을 넘어 혁신과 판단 능력까지 확장해야 한다는 과제를 함께 다뤘습니다.

  • Faraday는 연구 논문을 재현하는 긴 작업 과정에서 coding agent의 실행 능력 위에 과학적 직관을 더하는 구조입니다. 사전에 고정한 검증 보상만 최적화하면 평가 절차가 조작 가능한 목표가 되므로, 전체 rollout을 사후에 판단하는 moving target이 필요하다는 설명이 뒤따랐습니다.
  • 인용된 발표에 따르면 Faraday는 27B-parameter AI Scientist이며 long-horizon RL로 학습됐습니다. 연구 논문 재현 과제에서 Claude Opus 4.8과 GPT-5.5보다 높은 성능을 기록했다는 비교 수치가 제시됐습니다.
  • 게시물은 논문 속 figure를 다시 만드는 작업이 결과만 보면 창의적이지 않아도 과정에서는 혁신의 발판이 된다고 봅니다. 재현에서 혁신으로 범위를 넓히면 과제 명세가 충분하지 않은 underspecification과 인간 연구자와 협업할 때 필요한 판단 기준이 더 중요해집니다.
찬성소수

Faraday처럼 장기 작업 전체를 평가하는 AI Scientist가 coding agent의 연구 재현 능력을 확장할 수 있다는 입장입니다.

중립소수

재현 성능만으로 과학적 혁신이나 인간 연구자와의 협업 능력까지 판단하기에는 underspecification과 평가 설계 문제가 남는다는 입장입니다.

원문 트윗 2개 보기

Susan Zhang

@suchenzang

> On the face of it, replicating a figure from a paper is not an especially creative endeavour. Most obviously, replication produces a figure that looks quite like the original, assuming that the method replicates. But if one examines the process, rather than the output, replication becomes a stepping stone towards innovation. > In a weak sense, Faraday not only replicates better than a frontier model; it also innovates better. > CAT (Coding Agent as a Tool) paradigm > Defining a verifiable reward necessitates specifying an evaluation procedure in foresight, which becomes a fixed target for manipulation. By contrast, judging entire rollouts in hindsight is a moving target. > In summary, we have created an intelligence layer with a modicum of research taste, sufficient to extend the capabilities of frontier agents. This is, however, the tip of the iceberg when it comes to imbuing agents with the ability to enrich scientific research as peer collaborators with humans. Stepping from replication towards innovation sharpens the problem of underspecification, and deepens the need to develop systems with good judgement.

Inherent

1/ Today, we introduce Faraday, a 27B-parameter AI Scientist that extends the capabilities of coding agents with a layer of scientific intuition. Trained via long-horizon RL, Faraday outperforms Claude Opus 4.8 and GPT-5.5 on the task of replicating research papers.

💬 1 1 6👁 296

Susan Zhang

@suchenzang

> On the face of it, replicating a figure from a paper is not an especially creative endeavour. Most obviously, replication produces a figure that looks quite like the original, assuming that the method replicates. But if one examines the process, rather than the output, replication becomes a stepping stone towards innovation. > In a weak sense, Faraday not only replicates better than a frontier model; it also innovates better. > CAT (Coding Agent as a Tool) paradigm > Defining a verifiable reward necessitates specifying an evaluation procedure in foresight, which becomes a fixed target for manipulation. By contrast, judging entire rollouts in hindsight is a moving target. > In summary, we have created an intelligence layer with a modicum of research taste, sufficient to extend the capabilities of frontier agents. This is, however, the tip of the iceberg when it comes to imbuing agents with the ability to enrich scientific research as peer collaborators with humans. Stepping from replication towards innovation sharpens the problem of underspecification, and deepens the need to develop systems with good judgement.

Inherent

1/ Today, we introduce Faraday, a 27B-parameter AI Scientist that extends the capabilities of coding agents with a layer of scientific intuition. Trained via long-horizon RL, Faraday outperforms Claude Opus 4.8 and GPT-5.5 on the task of replicating research papers.

💬 0 0 3👁 280

에이전트 실행 계층의 자동화와 관측포스트 7

에이전트 시스템에서 모델 선택, 반복 실행, 데이터베이스 접근, tool calling, 관측 데이터, 종단간 테스트를 분리된 운영 문제로 다루는 사례가 늘었습니다. 자동 라우팅과 세션 내 반복 실행은 실행 경로를 줄이고, tracing과 mock 인프라는 품질·비용 검증을 가능하게 합니다.

  • Omnigent의 Smart Routing은 LLM classifier 또는 Databricks AI Gateway smart routing으로 각 task와 하위 subagent에 맞는 model과 harness를 자동 선택합니다. NVIDIA NeMo Switchyard도 복잡한 reasoning·planning에는 frontier model을, 대량 특화 실행에는 NVIDIA Nemotron Lightning을 배치해 workflow 단계별 모델 분리를 구현합니다.
  • Hermes의 `/loop`는 `/loop 5m <prompt>`처럼 같은 session에서 일정 간격으로 prompt를 반복하고, 간격이 없으면 변화가 적을 때 실행 주기를 늦춥니다. CLI·desktop·messaging channel에서 session context를 유지한 채 반복 작업을 수행하므로 단순 cronjob보다 에이전트 상태와 결합된 실행 방식입니다.
  • LangSmith는 traces·threads·trajectories를 구분해 관측 데이터를 memory와 learning에도 활용하는 개념을 정리했고, LangChain은 OpenAI 3.0 SDK·gemini-3.7-flash와 tool calling·structured output 오류 처리를 보완했습니다. aimock은 fixture.json과 localhost API를 이용해 LLM·MCP tools·agents·databases를 실제 서비스 호출 없이 종단간 테스트하도록 구성합니다.
  • Neon은 에이전트용 `inspect_database` tool과 Vercel CLI의 Neon skills, AI SDK의 AI gateway, Agent Plugins package를 추가했습니다. 이 사례들은 agent가 모델 응답만 생성하는 구조에서 벗어나 데이터베이스·도구·관측·테스트를 포함한 실행 계층으로 확장되는 방향을 나타냅니다.
원문 트윗 2개 보기

📈 에이전트 추론 병목의 도구 호출 비용포스트 1

LLM inference가 빨라질수록 shell command, build pipeline, 검색, database·file access를 수행하는 tool-use와 실행 환경이 전체 지연의 병목이 될 수 있다는 관점이 나왔습니다. HDPO와 Code World Model은 도구 호출 횟수와 실행 환경 의존성을 줄이는 서로 다른 접근입니다.

  • 에이전트는 모델이 답을 생성한 뒤 sandbox와 infrastructure에서 code·search·database·file 작업을 실행하므로, 모델 추론 비용 외에 컨테이너와 실행 환경 비용을 추가로 부담합니다. inference가 빨라져도 도구 실행 시간이 줄지 않으면 전체 작업 지연은 모델 속도가 아니라 tool-use에 묶입니다.
  • Alibaba의 Hierarchical Decoupled Policy Optimization은 LLM이 과도한 tool-use를 피하도록 학습하는 기법으로 제시됐습니다. Meta의 Code World Model은 실제 execution environment를 띄우기 전에 world model로 code 결과를 예측해 coding task 학습 과정의 실행 비용을 줄이는 방식입니다.
  • 게시물은 향후 더 빠른 container와 execution environment가 필요하다고 봅니다. 모델 응답 자체를 최적화하는 단계를 넘어 도구 실행의 예측·격리·배포 시간을 함께 줄여야 agentic work의 전체 latency를 낮출 수 있다는 문제의식입니다.
찬성소수

모델 추론 속도보다 도구 실행 환경이 에이전트 작업의 지연을 좌우하게 되므로 tool-use 자체를 줄이거나 예측해야 한다는 입장입니다.

원문 트윗 1개 보기

Anthropic의 Watermarking과 Risk Report포스트 2

Anthropic이 EU AI Act 준수를 위한 Watermarking과 Responsible Scaling Policy에 따른 Risk Report를 함께 공개했습니다. Watermarking은 출력에 숨은 문자나 추가 토큰을 넣지 않고 독자가 차이를 식별하지 못하도록 설계됐으며, 특정 사용자·조직·대화를 추적하지 않습니다.

  • Anthropic은 EU AI Act 준수를 위해 Watermarking을 구현하고 다른 주요 model developer들도 같은 Code of Practice를 따를 예정이라고 밝혔습니다. 텍스트에 추가되는 정보 없이 출력 생성 과정의 통계적 차이를 활용하며 extra token이 필요하지 않아 비용 증가도 없다는 설명입니다.
  • Anthropic은 Watermarking된 text와 그렇지 않은 text의 차이가 독자에게 구별되지 않고 Claude output의 quality나 content에도 실질적 영향이 없다고 밝혔습니다. 또한 watermark가 특정 person·organization·chat으로 추적될 수 없다고 선을 그었습니다.
  • Responsible Scaling Policy의 두 번째 Risk Report는 시스템 위험과 대응 준비 수준을 정기적으로 공개하는 문서입니다. 생성물 출처 표기와 시스템 위험 보고를 별도 운영 항목으로 두면서 규제 준수와 안전성 공개를 병행하는 흐름을 담았습니다.
원문 트윗 2개 보기

추론 서빙의 재현 가능한 성능 설계포스트 2

LLM inference serving 학습 로드맵이 GPU 연산 특성부터 vLLM·SGLang 내부, 1,000건 초과 동시 요청, 양자화와 비용·지연·품질 라우터까지 한 서비스 기준으로 묶었습니다. Qdrant와 Minima 사례는 hybrid search와 late-interaction reranking을 결합해 검색 성공률과 GPU-hour 효율을 함께 측정했습니다.

  • 로드맵은 decode가 memory를 기다리고 prefill이 compute를 기다리는 roofline model에서 출발해 vLLM의 PagedAttention·scheduler, SGLang의 RadixAttention prefix reuse를 코드와 benchmark로 연결합니다. 모델을 띄우는 데 그치지 않고 TTFT·inter-token latency·queue depth를 Prometheus와 Grafana로 계측하는 입력·처리·출력 경로를 갖춥니다.
  • 학습 과정에는 1,000건을 넘는 동시 요청 부하 테스트, FP16·FP8·INT4 양자화의 quality·speed 비교, speculative decoding·KV eviction, Kubernetes 기반 disaggregated prefill·decode가 포함됩니다. 마지막에는 요청별 token budget을 적용하는 cost·latency·quality router와 재현 가능한 benchmark를 산출합니다.
  • Qdrant와 Minima의 agentic RAG 사례에서는 hybrid search와 late-interaction reranking을 결합해 첫 retrieval만으로 충분한 비율을 72%에서 87%로 높이고 median latency를 21.3초에서 7.7초로 낮췄습니다. GPU-hour당 성공 task 수는 2.92배가 됐다는 수치로 검색 품질과 인프라 효율을 함께 평가했습니다.
원문 트윗 2개 보기

Akshay

@akshay_pachaar

LLM engineer's handbook (30 minutes a day, 10 weeks, 50 lessons) a roadmap for llm inference serving where everything points at one service instead of scattering across demos. you get the mental model first, then serve a model, instrument it, load test it past 1000 concurrent requests, and tune it. you finish with a stack you configured yourself and a benchmark worth publishing. here is what it covers: → the roofline model, and why decode waits on memory while prefill waits on compute → vLLM internals, PagedAttention and the scheduler, read from the code → Prometheus and Grafana for TTFT, inter-token latency, and queue depth → SGLang and RadixAttention prefix reuse, benchmarked against vLLM → load testing past 1000 concurrent requests → quantization across FP16, FP8, and INT4, on quality as well as speed → speculative decoding and KV eviction, including where the gains disappear → disaggregated prefill and decode, deployed on Kubernetes → a cost, latency, and quality router with per-request token budgeting → publishing a reproducible benchmark the roadmap on GitHub: https:// github.com/patchy631/time -to-first-token … (don't forget to star ) i am also writing an article for each major topic. the first one is out, on how a GPU actually works. the article is quoted below.

💬 0 0 4👁 794

Qdrant

@qdrant_engine

Qdrant + Minima: agentic RAG on one RTX PRO 6000 Blackwell GPU. Hybrid search and late-interaction reranking made the first retrieval enough 87% of the time, up from 72%. Median latency 21.3s to 7.7s. 2.92x more successful tasks per GPU-hour. https:// qdrant.tech/blog/case-stud y-minima/ …

💬 0 1 2👁 48

AI 사용 비용과 오픈 모델 안전성의 운영 통제포스트 2

Databricks는 retry loop와 통제되지 않은 agent 실험으로 발생하는 AI 지출을 감지하고, 사용자·use case·workspace·account별 budget alert와 hard spend cap을 설정하는 AI Spend Controls를 내놓았습니다. 모델 운영 비용과 오픈 모델 실행에 필요한 하드웨어 접근성이 제품 도입의 조건으로 떠올랐습니다.

  • Unity AI Gateway의 AI Spend Controls는 사용자·use case·workspace·account 단위로 budget alert와 hard spend cap을 설정하고, Databricks budgets 및 Unity Catalog system tables에 기록된 cost data와 결합합니다. 모델·agents·MCPs·providers별 지출을 추적해 retry loop나 과도한 실험이 비용으로 번지는 경로를 조기에 제한합니다.
  • Meta의 open-weight model 접근성에 관한 TechCrunch 게시물은 'for everyone'이라는 접근 목표와 실제 실행에 필요한 hardware 사이의 간극을 문제로 삼았습니다. 오픈 weight 공개만으로는 충분하지 않고 사용자가 모델을 실행할 수 있는 하드웨어 요구량이 실제 접근성을 결정한다는 맥락입니다.
  • 두 사례는 AI 도입의 운영 조건을 서로 다른 방향에서 다룹니다. 하나는 요청과 agent 실행의 비용 상한을 시스템에 넣고, 다른 하나는 모델을 사용할 수 있는 물리적 자원과 비용을 따져야 한다는 점을 드러냅니다.
원문 트윗 2개 보기

용어 해설

워터마킹(Watermarking)
AI가 생성한 텍스트에 식별 가능한 통계적 패턴을 심어 생성물 여부를 판별하는 기법입니다. Anthropic은 텍스트에 추가 토큰이나 숨은 문자를 넣지 않고 출력 품질과 비용을 유지하는 방식을 설명했습니다.
스마트 라우팅(Smart Routing)
작업의 성격과 하위 에이전트의 역할에 맞춰 여러 모델과 실행 도구 중 적합한 조합을 자동으로 선택하는 방식입니다. 분류기나 AI Gateway가 요청별 경로를 결정합니다.
PagedAttention
LLM 추론 중 KV cache를 고정 크기 블록으로 관리해 메모리 낭비를 줄이는 기법입니다. vLLM의 스케줄러와 함께 동시 요청 처리량과 메모리 활용도를 높이는 데 쓰입니다.
지연 상호작용 재순위화(Late-Interaction Reranking)
검색된 문서와 질의의 토큰별 표현을 별도로 유지한 뒤 검색 후반 단계에서 세밀한 유사도 계산으로 순위를 다시 매기는 방식입니다. Qdrant 사례에서는 첫 검색만으로 충분한 비율과 지연 시간이 함께 개선됐습니다.
장기 시계열 강화학습(Long-Horizon RL)
짧은 응답 단위가 아니라 긴 작업 수행 과정 전체를 대상으로 보상을 계산하고 정책을 학습하는 방식입니다. Faraday는 연구 논문 재현 과정의 결과를 기준으로 coding agent의 과학적 작업 능력을 확장했습니다.
AI 분석 전체 내용 보기

AI 요약 · 북마크 · 개인 피드 설정 — 무료

출처 · 인용 안내

원문 발행 2026. 08. 15.수집 2026. 08. 15.출처 타입 TWITTER

인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.