이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
Flock Safety의 최신 검색 도구는 번호판뿐 아니라 경찰관이 적은 사람의 복장·색상·문신 같은 설명으로 도시 내 카메라 영상을 찾고, 특정 구역의 사람을 계속 감시하는 AI watchlist까지 제공합니다. Flock은 검색어를 인종·종교·국적·정치적 표현 등 민감한 범주와 비교해 허용·차단·경고를 반환하며, 경고를 무시한 검색과 후속 행동을 감사 기록에 남깁니다. 그러나 WIRED가 확보한 브라우저 코드를 보면 일부 부서가 아직 사건 번호나 사유 없이 검색을 설정할 수 있고 오용 감지 기능도 기본값이 꺼져 있습니다. 전문가들은 경고와 기록이 이미 오용을 결심한 사용자를 막기보다 사후 기록에 그칠 수 있으며, 회사 서버의 모델 정확도와 검색 결과에 대한 외부 검증도 불가능하다고 지적합니다.
섹션별 상세
Flock Safety의 새 검색 기능은 번호판을 찾는 기존 방식에서 사람 자체를 찾는 방식으로 감시 범위를 넓힙니다. 경찰관은 도시 지도에서 구역을 지정한 뒤 복장이나 색상 같은 문장형 설명을 입력하고, 시스템은 해당 구역의 모든 카메라 영상을 계속 검색해 일치한다고 판단한 사람을 알립니다. 단일 카메라 화면 안에 사람이 들어왔는지만 감지하는 People Detection Alert도 제공되며, 이 기능은 사람일 확률이 75% 미만인 설정을 받지 않습니다. 이를 통해 수사 대상의 차량뿐 아니라 이동 중인 사람과 특정 공간의 출입까지 검색할 수 있지만, AI가 영상 속 대상을 정확히 판별하는지는 별도 검증이 필요합니다.
Flock의 검색 인터페이스는 문장과 영상 이미지를 각각 숫자 집합으로 변환한 뒤 서로 가까운 결과를 순위화하고, Smart Sort에서는 경찰관의 승인·거부 투표가 이후 순위를 다시 배열합니다. 차량 검색은 색상·차종·제조사·스티커 같은 정해진 속성을 메뉴에서 고르지만, 사람 검색 기능인 FreeForm은 'person wearing scrubs'처럼 자연어 설명만 입력받습니다. WIRED가 수집한 브라우저 코드는 어떤 검색을 실행할지와 경고 화면, 다음 결과를 만드는 네트워크 요청을 확인하게 했지만, 실제 검색 결과와 카메라 영상, 서버의 AI 모델은 확인 대상에 포함되지 않았습니다. 따라서 검색 과정의 일부는 외부에서 재현할 수 있어도 모델의 판단 기준과 결과 오류율은 공개되지 않습니다.
Flock은 경찰관의 검색어를 민감한 콘텐츠 여덟 범주와 비교해 허용·차단·경고 중 하나를 반환하는 서버 측 조정 시스템을 운용합니다. 인종·민족, 종교, 국적, 편향적 표현, 성적·모욕적 표현 등은 차단 대상이고, 종교와 국적은 일부 상황에서 경고 후 진행되는 경로도 코드에 포함돼 있습니다. 정치적·사회적·문화적 표현은 차단 없이 경고만 발생하며, 경찰관은 검색을 계속하려면 확인란을 선택하고 의견을 남겨야 합니다. 전문가들은 복장이나 상징물처럼 다른 표현으로 검색하면 차단 범주를 우회할 수 있고, 경고는 검색을 막기보다 관리자에게 기록을 남기는 절차가 될 수 있다고 지적합니다.
Flock이 발표한 통제 장치는 검색 기간 단축, 모든 검색의 사건 코드 요구, 오용을 찾는 자동 감사 기능으로 구성됩니다. 그러나 WIRED가 확인한 코드에서는 부서가 실제 수사와 연결된 사유나 사건 번호 없이 검색을 설정할 수 있고, Audit Assistance는 현재 기본값이 꺼져 있으며 Flock은 해당 통제가 연말까지 의무화된다고 밝혔습니다. 회사는 검색어와 민감도 범주, 모델의 확신 점수, 경찰관이 경고를 계속 진행했는지 여부를 서버로 전송하지만, 이 기록을 얼마나 보관하고 누가 모델 개선에 활용하는지는 밝히지 않았습니다. 통제가 차단보다 추적에 집중돼 있어 실제 억제 효과는 부서 관리자의 검토와 오용에 대한 제재에 달려 있습니다.
Flock 시스템의 오용은 사적인 관계를 추적하는 경찰관 사례에서 이미 반복됐습니다. 워싱턴포스트 집계에 따르면 최근 미국에서 번호판 리더기 오용으로 기소되거나 의심받은 경찰관은 최소 50명이며, 그중 46건이 Flock과 관련되고 절반 이상은 아내·연인·전 연인·전 연인의 새 연인 또는 만나고 싶었던 여성을 표적으로 삼았습니다. 밀워키 경찰관은 한 여성을 124회, 그 전 연인을 55회 검색했고, 조지아 경찰서장은 전 연인과 딸을 600회 검색한 뒤 기소됐습니다. 이런 사례는 경고와 감사 로그가 존재해도 검색 권한, 기관 간 카메라 공유, 실제 사후 감독이 함께 제한되지 않으면 대규모 감시 인프라가 개인 추적에 전용될 수 있음을 보여줍니다.
용어 해설
- 콘텐츠 조정(Content Moderation)
- — 입력된 문장이나 이미지가 정책상 허용되는지 자동으로 판별하는 절차입니다. 이 기사에서는 Flock의 AI가 경찰관의 검색어를 인종·종교·정치적 표현 등 민감한 범주와 비교해 허용·차단·경고 중 하나를 반환합니다. 대규모 자동 판별의 오류와 우회 가능성이 핵심 쟁점입니다.
- 미국 수정헌법 제1조(First Amendment)
- — 미국 헌법이 보장하는 표현·종교·집회의 자유와 관련된 권리입니다. 기사에서는 정치적·사회적·문화적 표현이 경찰 검색어에 포함될 때 Flock이 검색을 차단하지 않고 경고만 띄우는 점을 문제로 지적합니다. 시위 참석자나 상징물을 찾는 검색이 표현의 자유를 침해할 가능성이 쟁점입니다.
- 감사 로그(Audit Log)
- — 시스템에서 누가 언제 어떤 검색이나 조작을 수행했는지 남기는 기록입니다. Flock은 검색어와 경고 처리 결과를 기록해 관리자 검토와 오용 추적에 활용한다고 밝힙니다. 다만 기록 자체는 검색을 막지 않으며, 실제로 누가 검토하고 제재하는지가 억제 효과를 좌우합니다.
- 의미 기반 검색(Semantic Search)
- — 문장과 이미지의 의미를 숫자 벡터로 바꾼 뒤 서로 가까운 항목을 찾아 순위를 매기는 검색 방식입니다. Flock은 카메라가 촬영한 장면과 경찰관이 입력한 설명을 각각 숫자 집합으로 변환하고 유사도가 높은 영상을 위에 배치합니다. 추가 필터와 임계값은 회사 서버에서 처리돼 경찰 부서에는 보이지 않습니다.
- 자연어 검색(Natural-Language Search)
- — 정해진 메뉴나 속성 대신 사람이 작성한 문장을 입력해 데이터를 찾는 방식입니다. Flock의 FreeForm은 경찰관이 'person wearing scrubs'처럼 사람의 복장·색상·물체를 문장으로 적으면 영상 카메라의 기록에서 일치 장면을 찾습니다. 차량 속성 메뉴를 이용하는 표준 검색과 달리 사람 검색에는 자유로운 서술이 사용됩니다.
기술
- Flock Safety
- FreeForm
- Smart Sort
- People Detection Alert
- Audit Assistance
- license plate readers
활용 사례
- 경찰의 카메라 영상 검색
- 특정 구역의 사람 검색 watchlist
- 카메라 화면 내 사람 감지 알림
- 차량·번호판 기반 이동 경로 검색
- 경찰 검색 활동 감사와 오용 탐지
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 09. 03.수집 2026. 09. 03.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
