AWS ML Blog

OpenAI의 GPT-5.6 Sol, Terra, Luna 모델이 Amazon Bedrock의 bedrock-mantle 엔드포인트를 통해 Responses API로 제공되며 272K 토큰 컨텍스트와 리전·비용 옵션을 지원한다.

Amazon SageMaker AI와 PyTorch로 다중 타워 신경망과 학습된 어텐션을 활용해 은행권 고객의 다음 추천 상품을 개별적으로 해석 가능한 방식으로 예측하는 아키텍처를 제시한다.

이 글은 Amazon Bedrock Guardrails의 유해 코드·프롬프트 공격·PII 필터링 기능을 코드 생성 워크플로우 특성에 맞춰 구성해 스루풋 제약과 지연·비용 문제를 완화하는 방법을 안내한다.

AgenticRetrieveStream API는 질의를 하위 의도로 분해해 반복 검색과 응답 생성을 한 번의 흐름으로 수행하여 단일 샷 검색의 증거 누락 문제를 완화한다.

Jefferies가 Amazon Bedrock, Anthropic Claude, MCP, Strands Agents를 결합해 자연어 질의로 실시간 거래분석과 자동 SQL 생성을 제공하는 에이전트형 트레이드 어시스턴트를 구축했다.

Motorway와 AWS가 Strands와 Amazon Bedrock AgentCore로 구축한 평가 파이프라인은 불일치 결과를 1/8에서 1/50으로 줄이고 이슈 탐지 시간을 몇 시간에서 몇 분으로 단축했다.

monday.com은 Sphera라는 내부 에이전트 시스템으로 Amazon Bedrock 기반 에이전트를 운영해 매달 사용자 중 9/10이 AI 코딩 도구를 사용하고 개발자당 PR 처리량이 50% 이상 증가했다.

Self-Distilled Reasoning(SDR)는 베이스 모델의 chain-of-thought를 데이터에 재주입하여 CoT가 없는 SFT 데이터에서도 추론 능력을 보존하면서 목표 성능을 개선한다.

Tradeshift는 Amazon Quick의 agentic AI 기능을 도입해 쿼리 응답을 최대 30배, 총 소유 비용을 40% 절감하고 임베디드 분석을 통한 수익화를 달성했다.

Capella iQ는 Amazon Bedrock과 Anthropic Claude를 연동해 VPC 인터페이스 엔드포인트와 Cross-Region Inference로 다중 모델 추론의 가용성과 유연성을 확보했다.

AWS는 DeepRacer에서 최신 리눅스 배포판과 서명된 커스텀 OS를 설치할 수 있도록 shim 기반의 개발자용 부트로더를 공개했다.

Smartsheet는 AWS 위에 원격 MCP 서버를 두어 AI 클라이언트가 구조적 데이터에 효율적으로 접근하도록 하고 토큰 비용·환각 위험을 줄여 내부 텔레메트리 기준 30억 토큰을 절감했다.

xAI의 Grok 4.3이 Amazon Bedrock에서 Mantle 엔진으로 구동되며 100만 토큰 컨텍스트와 요청별 조정 가능한 사고 노력 수준을 제공한다.

Amazon Bedrock AgentCore, Amazon Nova 2 Sonic, MCP, SIP 게이트웨이, AWS CDK를 활용해 전화 기반 음성 주문을 접수하고 확인까지 처리하는 아키텍처와 배포 구성을 제시하는 기술 블로그 글이다.

SageMaker Pipelines 실행 이벤트를 이벤트 기반 허브 앤 스포크 아키텍처로 집계하여 CloudWatch 대시보드에서 여러 계정과 리전을 중앙 관찰하도록 설계한 서버리스 솔루션을 제시한다.

컴퓨터 비전, Strands 에이전트, MCP를 결합해 AWS 서비스 위에서 시각 정보를 수집·해석하고 단일 인터페이스로 도구 호출과 권한 관리를 수행하는 파이프라인을 제시한다.

Built Technologies는 Amazon Bedrock과 AWS IDP Accelerator를 활용해 수백 종류의 부동산 금융 문서를 분류·분할·추출·추론하는 재사용 가능한 AI 문서 처리 엔진을 구축했다.

Thrad.ai가 Strands Agents와 Amazon Bedrock AgentCore를 활용해 소셜·웹 신호를 수집하고 멀티에이전트로 분석해 개인화 이메일을 자동 생성하는 파이프라인을 구축해 배포 가이드와 벤치마크를 공개했다.

ScienceSoft는 Amazon Nova 2 Sonic과 Bedrock Guardrails를 결합해 HIPAA 준수 AI 음성 예약 시스템을 구축하여 예약 처리 병목과 높은 콜 포기율을 완화하려 했다.

Flo Health는 Amazon Bedrock과 RAG, AI Judge를 도입해 의료 콘텐츠 검토 시간을 60% 줄이고 생산성을 3배로 높였다.

SageMaker AI Studio의 UI가 데이터 기반 권장 설정과 사전설정 프로필 및 원클릭 배포를 통해 생성형 모델의 프로덕션 배포 시간을 분 단위로 단축한다.

Amazon Bedrock AgentCore Identity가 OAuth 2.0 Token Exchange(RFC 8693)를 사용해 다중 테넌트 에이전트 환경에서 사용자 신원을 audience‑bound 토큰으로 안전하게 전달한다.

Unsloth의 동적 양자화는 계층별 비트 할당과 정밀도 튜닝으로 모델 크기를 크게 줄이면서 정확도 손실을 최소화하고 AWS EC2·SageMaker·EKS/ECS에 배포하는 패턴을 제시한다.

긴 컨텍스트와 고동시성 스트리밍 워크로드에서 Prefill과 Decode를 서로 다른 GPU 풀로 분리하고 EFA RDMA로 KV 캐시를 전송하면 토큰 생성 지연과 꼬리 지연을 줄일 수 있다.