프롬프트 인젝션으로 원격 코드 실행 가능한 방어형 에이전트 취약성
AI Now 연구는 방어 목적으로 사용된 agentic LLM이 프롬프트 인젝션을 통해 원격 코드 실행으로 역이용될 수 있음을 보여주었다.
글로벌 AI 거버넌스, 윤리, 노동 및 사회적 영향에 대한 세계 최고 수준의 비판적 분석과 전문가 인터뷰
AI Now 연구는 방어 목적으로 사용된 agentic LLM이 프롬프트 인젝션을 통해 원격 코드 실행으로 역이용될 수 있음을 보여주었다.
AI Now Institute는 간호직 기그 워크 플랫폼이 AI 기반 가격 책정과 감시를 통해 간호사의 권익을 침해하고 있다고 경고했다.
AI Now Institute가 미국 내 데이터 센터의 무분별한 확장을 억제하고 지역 사회를 보호하기 위한 구체적인 정책 권고안이 담긴 툴킷을 발표했다.
거대 IT 기업의 인프라 종속에서 벗어나 공동체와 노동자가 기술을 직접 통제하고 설계하는 '민중 디지털 주권'의 필요성과 실천 사례를 제시한다.
빅테크 주도의 언어 데이터 수집이 가진 한계를 비판하고, 아프리카 언어의 특수성과 주권을 존중하는 커뮤니티 중심의 협력적 거버넌스 모델을 제시한다.
빅테크 중심의 AI 거버넌스 담론을 비판하고, 글로벌 사우스 국가들이 데이터 주권과 지속 가능한 로컬 솔루션을 확보하기 위해 상호 협력해야 함을 강조한다.
Meredith Whittaker는 현재의 오픈소스 AI 담론이 소프트웨어의 정의를 왜곡하여 인프라 독점을 은폐하고 있다고 비판하며 실질적인 기술적 투명성을 강조한다.
대만의 전 디지털 장관 오드리 탕이 단순한 자원 분배를 넘어 시민 사회 중심의 '복수 거버넌스'를 통해 AI를 인간 사회의 통제 아래 두어야 한다고 제안한다.
Timnit Gebru는 모든 것을 해결하려는 거대 모델 패러다임이 비효율과 오류를 초래한다고 비판하며, 특정 목적에 맞춘 지역 사회 중심의 '검소한 AI' 연합을 대안으로 제시한다.
인도의 사회 활동가 니킬 데이가 데이터 접근권과 사회적 감사를 통해 알고리즘 권력에 대항하고 실질적인 책임을 묻는 풀뿌리 민주주의적 접근법을 제시한다.
케냐 데이터 레이블러 협회장 조안 키뉴아가 AI 발전을 뒷받침하는 글로벌 사우스 노동자들의 착취 실태를 고발하고 투명성과 권리 보장을 위한 국제적 연대를 촉구한다.