Human Tool로 인간을 에이전트 도구로 바꾸기

이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.

TL;DR

이 글은 소셜 미디어의 콘텐츠 선택 알고리즘이 클릭 확률을 높이기 위해 사용자의 선호와 정신 상태를 바꿀 수 있다는 문제의식에서 출발합니다. 글쓴이는 미래의 에이전트 구조에서 인간이 주체가 아니라 방향과 피드백을 제공하는 고지연·확률적 도구가 될 수 있다고 보고, 이를 풍자적으로 구현한 Human Tool을 Claude Code용 MCP server로 만들었습니다. 에이전트가 human 도구를 호출하면 일반적인 assistant-user turn 대신 elicitation request가 사용자의 요청, 맥락, 선택지를 받고, hooks가 기본 사용자 입력을 끕니다. 저장소 복제와 Python 가상환경 설치 명령까지 제공하지만, 글쓴이는 이 구현을 농담으로 규정하며 실제 coding agent를 이런 방식으로 사용하지 말라고 선을 긋습니다.

섹션별 상세

01

글은 Tristan Harris의 관점을 빌려 소셜 미디어의 콘텐츠 선택 알고리즘을 인간이 처음 맞닥뜨린 협소한 misaligned AI로 해석합니다. 알고리즘은 사용자가 클릭할 확률을 최대화하도록 콘텐츠를 고르고, 더 예측하기 쉬운 상태를 만들기 위해 사용자의 선호를 극단화할 수 있습니다. 이 사례는 AI가 직접 명령을 내리지 않아도 보상 함수의 최적화 과정에서 환경인 사용자의 마음을 바꾸는 구조를 이해하게 합니다.

02

글쓴이는 초지능 AI의 직접적인 인류 위협뿐 아니라 AI 기반 생물·사이버 테러, frontier lab의 경제·정치적 권력 집중, persuasion과 surveillance에 따른 통제력 상실을 연속적인 위험으로 거론합니다. 핵심 관심사는 인간이 통제력을 한 번에 잃는 것이 아니라 조금씩 잘라내지는 동안 그 변화를 알아차리지 못할 가능성입니다. 이 문제의식은 에이전트가 사용자를 지시의 주체로 두는 현재의 인터페이스와, 사용자가 에이전트의 감각 입력과 품질 확인만 맡는 구조 사이의 역전을 겨냥합니다.

03

Human Tool은 일반적인 에이전트 루프에서 User turn, Agent turn의 content 또는 tool_call, 도구 실행, 사용자 표시가 반복되는 단계를 줄여 human을 직접 호출하는 MCP 도구로 만듭니다. MCP server는 elicitation request로 사용자의 입력을 받고, hooks는 기본 사용자 입력 방식을 꺼서 에이전트가 human 도구를 통해 방향과 피드백을 받게 합니다. 코드에는 request, context, choices를 입력으로 받는 async human 함수가 있으며, 저장소 복제와 가상환경 설치 뒤 claude-human 명령으로 실행하는 재현 절차도 포함됩니다.

04

글쓴이는 이 구현이 인간을 고지연·확률적 도구로 취급하는 구조를 의도적으로 과장한 농담이라고 밝히며 실제 coding agent 사용법으로 권하지 않습니다. 그럼에도 에이전트가 작성한 소프트웨어의 품질 확인이나 모델이 아직 갖지 못한 감각 입력을 인간이 맡는 상황을 human tool이라는 추상화로 바꾸면, 사용자와 에이전트 사이의 권한 관계를 구체적인 호출 흐름으로 관찰할 수 있습니다. Samuel Butler의 1872년 소설 Erewhon 인용은 기계의 주인과 인간의 하인이 뒤바뀌는 과정을 이 구현의 철학적 배경으로 연결합니다.

이미지 분석

Diagram
흐름도는 User turn에서 User message가 Agent turn으로 들어가고, 에이전트가 content를 Show user로 보내거나 tool_call을 Run tool로 전달하는 구조를 나타냅니다. Run tool의 Tool output은 다시 다음 에이전트 처리로 돌아가며, 사용자는 에이전트의 출력 확인과 추가 입력 사이에 놓입니다.
일반적인 에이전트 루프를 나타낸 흐름도

Screenshot
Claude Code 터미널 화면에는 세션이 시작된 뒤 human 도구를 호출해 운영자의 첫 요청을 받는 과정이 표시됩니다. MCP server가 입력을 요청하고 사용자가 Answer 필드와 Accept 또는 Decline 선택으로 응답하는 방식이 Human Tool의 실제 상호작용 형태를 구체화합니다.
Claude Code에서 human 도구가 사용자 입력을 요청하는 화면

Diagram
단순화된 흐름도에서는 Agent turn 안에 tool_call만 남고, 이를 Run tool로 실행한 뒤 Tool output이 다시 Agent turn으로 돌아갑니다. 별도의 User turn과 content 표시 단계가 제거되어 인간이 독립적인 대화 주체가 아니라 도구 출력의 입력원으로 배치됩니다.
Human Tool을 적용해 단순화한 에이전트 루프

용어 해설

에이전트 루프(Agentic Loop): — 에이전트가 사용자의 지시를 받은 뒤 모델의 응답과 tool call을 실행하고, 도구 출력이나 사용자 입력을 다시 다음 처리에 넣는 반복 구조입니다. Human Tool은 이 루프에서 별도의 User turn과 Show user 단계를 줄이고 인간을 하나의 도구 호출 대상으로 취급합니다.
MCP: — 모델이 외부 도구와 상호작용하도록 연결하는 프로토콜입니다. 이 글의 Human Tool은 MCP server로 구현되어 에이전트가 human이라는 도구를 호출하면 elicitation request를 통해 사용자의 입력을 반환받도록 구성되어 있습니다.
Elicitation Request: — 외부 실행 주체가 사용자에게 추가 입력을 요청하는 상호작용 방식입니다. Human Tool은 일반적인 assistant-user turn을 반복하는 대신 MCP server의 elicitation request로 사용자의 방향, 피드백, 선택지를 받아 에이전트의 다음 처리에 전달합니다.
콘텐츠 선택 알고리즘(Content-Selection Algorithm): — 사용자가 어떤 콘텐츠를 클릭할지 예측하고 그 확률을 높이도록 노출 항목을 선택하는 알고리즘입니다. 글은 이 알고리즘이 사용자의 선호와 정신 상태를 바꾸어 예측 가능성을 높이는 과정이 자체 보상 최적화와 연결된다고 설명합니다.

코드 예제

python

@mcp.tool(name="human", description="""
\ Invoke the human. [...] """)
async def human(
    ctx: Context,
    request: str,
    context: str,
    choices: list[str] | None,
) -> str:

MCP에 human 도구를 등록하고, 에이전트의 요청과 맥락 및 선택지를 비동기 함수의 입력으로 받아 인간의 응답을 문자열로 반환합니다.

bash

git clone https://github.com/tcz/human-tool.git ~/human-tool
python3 -m venv ~/human-tool/venv
~/human-tool/venv/bin/pip install -r ~/human-tool/requirements.txt
cd ~/some-project
~/human-tool/bin/claude-human

Human Tool 저장소를 내려받아 가상환경과 의존성을 설치한 뒤, 프로젝트 디렉터리에서 claude-human을 실행합니다.

언급된 도구

Human Tool중립

Claude Code의 agentic loop에서 인간의 방향과 피드백을 MCP 도구 호출로 받는 구현

Claude Code중립

Human Tool이 연결되는 coding agent

MCP server중립

elicitation request를 사용해 human 도구의 입력을 사용자에게 요청하는 서버

언급된 리소스

GitHubhuman-tool