SyGra Studio 출시: 합성 데이터 생성을 위한 시각적 인터랙티브 환경

섹션별 상세

SyGra Studio는 합성 데이터 생성 과정을 시각적 공예 작업으로 전환하는 인터랙티브 환경을 제공한다. 사용자는 캔버스에서 직접 흐름을 구성하고, 데이터셋을 미리 보며, 인라인 변수 힌트를 사용해 프롬프트를 튜닝할 수 있다. 모든 시각적 작업은 내부적으로 SyGra 호환 그래프 설정 및 실행 스크립트를 자동으로 생성하므로 기존 플랫폼과의 호환성이 유지된다.

다양한 모델 및 데이터 소스와의 통합을 지원하여 유연한 구성을 가능하게 한다. OpenAI, Azure, Ollama, vLLM 등 주요 LLM 엔드포인트뿐만 아니라 Hugging Face, ServiceNow, 로컬 파일 시스템의 데이터를 소스로 연결할 수 있다. 데이터 소스를 연결하면 컬럼명이 즉시 상태 변수로 변환되어 프롬프트 내에서 자동 완성 기능을 통해 쉽게 참조할 수 있다.

워크플로우 실행 시 강력한 관측성(Observability)과 디버깅 도구를 제공한다. 노드별 진행 상황, 토큰 사용량, 지연 시간, 비용 등을 실시간으로 스트리밍하여 확인할 수 있으며, 인라인 로그와 중단점(Breakpoint) 기능을 통해 오류를 빠르게 수정할 수 있다. 모든 실행 기록은 로컬 디렉토리에 JSON 형태로 저장되어 사후 분석 및 결과 비교가 용이하다.

Glaive Code Assistant와 같은 복잡한 루프형 워크플로우도 시각적으로 처리할 수 있다. 답변 생성과 비평 노드를 조건부 엣지로 연결하여 만족스러운 결과가 나올 때까지 반복하는 로직을 캔버스에서 쉽게 구현한다. 사용자는 코드 수정 없이 실행 모달에서 배치 크기나 온도(Temperature) 같은 파라미터를 조절하며 실험을 반복할 수 있다.

용어 해설

SyGra: — ServiceNow에서 개발한 그래프 기반의 합성 데이터 생성 프레임워크이다. 복잡한 LLM 워크플로우를 그래프 구조로 정의하고 실행하여 대규모 데이터셋을 효율적으로 구축하는 데 사용된다.
합성 데이터(Synthetic Data): — 실제 세계의 사건에서 수집된 데이터가 아니라 알고리즘이나 AI 모델을 통해 인위적으로 생성된 데이터이다. 데이터 부족 문제를 해결하거나 개인정보 보호를 위해 모델 학습 및 평가용으로 활용된다.
상태 변수(State Variable): — 워크플로우 내에서 노드 간에 공유되고 전달되는 데이터 값을 의미한다. 이전 단계의 출력을 다음 단계의 프롬프트나 처리 로직에서 참조할 수 있게 하여 데이터 흐름을 연결하는 역할을 한다.
Pydantic: — Python에서 데이터 유효성 검사와 설정 관리를 위해 사용되는 라이브러리이다. LLM의 출력을 특정 스키마에 맞게 구조화하거나 데이터 형식을 강제할 때 핵심적인 역할을 수행한다.
모나코 에디터(Monaco Editor): — Visual Studio Code의 기반이 되는 브라우저용 코드 에디터이다. SyGra Studio 내에서 YAML 설정이나 코드를 편집할 때 구문 강조와 자동 완성 기능을 제공하여 개발 편의성을 높인다.

코드 예제

bash

git clone https://github.com/ServiceNow/SyGra.git
cd SyGra && make studio

SyGra 리포지토리를 복제하고 Studio 환경을 실행하는 기본 명령어

기술

SyGra
OpenAI
vLLM
Hugging Face
Pydantic
Monaco Editor

활용 사례

모델 학습용 합성 데이터 생성
코드 어시스턴트 성능 평가 데이터셋 구축
RAG 시스템 벤치마킹을 위한 질문-답변 쌍 생성

언급된 리소스

GitHubSyGra GitHub Repository

문서SyGra Documentation

튜토리얼SyGra Studio Getting Started Guide