Gemma 4를 활용한 안전한 에이전트 도구 호출 구현

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

핵심 요약

Gemma 4 기반의 에이전트가 로컬 파일 시스템 탐색과 파이썬 코드 실행을 스스로 수행하는 도구 호출 시스템을 구현한다. 모델은 사용자 질문에 따라 필요한 도구를 선택하고, 실행 결과를 바탕으로 최종 답변을 생성하는 2단계 루프를 거친다. 파일 시스템 접근 시 경로 탐색을 차단하고, 파이썬 실행 시 내장 함수를 화이트리스트로 제한하여 보안을 확보한다. 로컬 환경에서 실행 가능한 소형 모델로도 복잡한 에이전트 작업을 안정적으로 처리할 수 있음을 확인했다.

배경

Python 기초 지식, Ollama 환경 설정, 기본적인 LLM 도구 호출 개념

대상 독자

로컬 LLM 에이전트 구축에 관심 있는 개발자

의미 / 영향

이 방식은 외부 API 의존 없이 로컬 환경에서 안전하게 동작하는 에이전트를 구축할 수 있게 한다. 보안이 강화된 도구 호출 패턴은 소형 모델의 활용 범위를 단순 챗봇에서 실질적인 시스템 제어 에이전트로 확장한다.

섹션별 상세

에이전트 아키텍처는 모델이 도구 호출 여부를 결정하고, 실행 결과를 다시 입력받아 최종 답변을 합성하는 2단계 오케스트레이션 루프를 사용한다.

Gemma 4를 활용한 에이전트 도구 호출의 전체 워크플로우를 보여주는 다이어그램. — Diagram이 이미지는 이해, 계획, 도구 호출, 결과 획득, 목표 달성으로 이어지는 에이전트의 순환 과정을 시각화한다. 기사에서 설명하는 2단계 오케스트레이션 루프의 핵심 단계를 요약하여 보여준다.

파일 시스템 도구는 os.path.abspath와 경로 접두사 검증을 통해 허용된 작업 공간 외부로의 접근을 원천 차단하는 안전한 파일 탐색기를 구현한다.

python

SAFE_BASE_DIR = os.path.abspath(os.getcwd())
def list_directory_contents(path: str = ".") -> str:
    try:
        requested = os.path.abspath(os.path.join(SAFE_BASE_DIR, path))
        if not (requested == SAFE_BASE_DIR or requested.startswith(SAFE_BASE_DIR + os.sep)):
            return ( f"Error: Access denied. The path '{path}' resolves outside the " f"permitted workspace ({SAFE_BASE_DIR})." )

파일 시스템 탐색 시 경로 탐색 공격을 방지하기 위해 절대 경로를 확인하고 작업 공간 외부 접근을 차단하는 로직

파이썬 인터프리터 도구는 exec() 함수 실행 시 __builtins__를 화이트리스트 기반으로 교체하여 위험한 함수 접근을 방지하고, math와 statistics 모듈을 사전 로드하여 모델의 연산 정확도를 높인다.

python

safe_builtins = {
    "abs": abs, "all": all, "any": any, "bool": bool, "dict": dict, "divmod": divmod, "enumerate": enumerate, "filter": filter, "float": float, "int": int, "len": len, "list": list, "map": map, "max": max, "min": min, "pow": pow, "print": print, "range": range, "repr": repr, "reversed": reversed, "round": round, "set": set, "sorted": sorted, "str": str, "sum": sum, "tuple": tuple, "zip": zip,
}
restricted_globals = {
    "__builtins__": safe_builtins,
    "math": math,
    "statistics": statistics,
}

파이썬 인터프리터 도구에서 위험한 내장 함수 접근을 막기 위해 화이트리스트 기반으로 환경을 제한하는 설정

도구 호출 시 모델이 생성한 문자열을 신뢰하지 않고, 샌드박스 환경 내에서만 동작하도록 제약 조건을 설정하여 잠재적 보안 위협을 최소화한다.

실무 Takeaway

시스템 프롬프트와 도구 정의를 통해 모델이 환경을 스스로 관찰하고 필요한 도구를 선택하도록 유도할 수 있다.
로컬 파일 시스템이나 코드 실행 도구 구현 시, 경로 검증과 내장 함수 화이트리스트 적용은 필수적인 보안 계층이다.
2단계 오케스트레이션 루프를 활용하면 소형 모델도 복잡한 추론과 도구 호출을 안정적으로 결합할 수 있다.

SAFE_BASE_DIR = os.path.abspath(os.getcwd()) def list_directory_contents(path: str = ".") -> str: try: requested = os.path.abspath(os.path.join(SAFE_BASE_DIR, path)) if not (requested == SAFE_BASE_DIR or requested.startswith(SAFE_BASE_DIR + os.sep)): return ( f"Error: Access denied. The path '{path}' resolves outside the " f"permitted workspace ({SAFE_BASE_DIR})." )

safe_builtins = { "abs": abs, "all": all, "any": any, "bool": bool, "dict": dict, "divmod": divmod, "enumerate": enumerate, "filter": filter, "float": float, "int": int, "len": len, "list": list, "map": map, "max": max, "min": min, "pow": pow, "print": print, "range": range, "repr": repr, "reversed": reversed, "round": round, "set": set, "sorted": sorted, "str": str, "sum": sum, "tuple": tuple, "zip": zip, } restricted_globals = { "__builtins__": safe_builtins, "math": math, "statistics": statistics, }

Gemma 4를 활용한 안전한 에이전트 도구 호출 구현

핵심 요약

배경

대상 독자

의미 / 영향

섹션별 상세

실무 Takeaway

Gemma 4를 활용한 안전한 에이전트 도구 호출 구현

핵심 요약

배경

대상 독자

의미 / 영향

섹션별 상세

실무 Takeaway

관련 토론

댓글

관련 피드

관련 토론

댓글

관련 피드