AI 안면인식으로 1,000마일 밖 무고한 할머니가 5개월 수감 — Clearview AI 오인 사건

AI 안면인식으로 1,000마일 떨어진 무고한 할머니가 5개월 수감됨

• 테네시에 사는 50세 3자녀·5손주의 할머니 Angela Lipps가 한 번도 가본 적 없는 노스다코타주 파고(Fargo)에서 일어난 은행 사기 혐의로 체포되어 5개월 넘게 수감됨
• 수사 과정: 파고 인근 웨스트파고 경찰이 자체 구매한 Clearview AI 안면인식 시스템(인터넷·SNS에서 수십억 장의 사진을 스크랩한 데이터베이스)으로 위조 신분증 사진과 유사한 인물로 Lipps를 지목 → 이 정보를 파고 경찰에 전달

• 파고 경찰은 감시카메라 영상을 노스다코타 주 정보센터(NDSLIC)에 제출해야 했는데 이 절차를 건너뛰었음. NDSLIC는 안면인식 인증·훈련을 받은 기관인데 아예 이용을 안 한 것
• 파고 경찰서장 Zibolski가 인정한 또 다른 실수: 웨스트파고가 보낸 정보에 감시카메라 사진도 포함된 줄 잘못 가정하고 별도 확인을 안 함

5개월간의 악몽

• 2025년 7월 1일 체포 영장 발부(전국 인도 가능), 7월 14일 테네시에서 체포. 테네시 교도소에서 3개월 넘게 있다가 노스다코타로 이송됨
• Lipps의 변호팀은 "7월 14일에 체포 사실을 노스다코타에 통보한 이메일을 확인했다"고 밝혔지만, 파고 경찰은 테네시 측 통보가 왜 늦었는지 파악 못하겠다는 입장
• Lipps에게 이송은 생애 첫 비행기 탑승이었음. GoFundMe에 "무섭고 지치고 굴욕적이었다"고 적음
• 파고에서 배정된 변호사가 Lipps의 은행 기록을 확인한 결과 범행 시점에 테네시에 있었다는 무죄 증거를 발견 → 12월 23일 기소 취하 → 크리스마스 이브에 석방

경찰 대응과 후속 조치

• 파고 경찰은 향후 웨스트파고의 AI 시스템 정보를 "더 이상 사용하지 않겠다"고 발표. "그쪽 시스템이 어떻게 운영·감독되는지 모르기 때문"
• 모든 안면인식 결과는 수사과 지휘관에게 월별 보고 의무화, 주·연방 기관과만 협력하겠다고 함
• 사과에 대해서는? 경찰서장 왈 "아직 누가 관련됐는지 모르는 상태"라며 직접 사과를 거부
• Lipps의 변호팀: "경찰은 Angela가 테네시 거주자라는 걸 알면서도 범행 당시 노스다코타에 있었는지 확인하는 기본적인 수사를 전혀 하지 않았다. AI 안면인식을 기본 수사의 지름길로 쓴 것"이라고 비판

AI 치안의 반복되는 문제

• 작년에는 볼티모어 카운티 고등학생이 AI 보안 시스템에 의해 빈 도리토스 봉지가 총기로 오인되어 무장 경찰에게 수갑을 차고 수색당한 사건도 있었음
• 사우스캐롤라이나대 범죄학 교수 Ian Adams: "경찰이 새 기술을 너무 빠르게 도입하고 있어서 벤더의 약속에만 의존할 수밖에 없는 상황. 대부분의 AI 관련 실수는 기술 문제가 아니라 기술과 사람의 복합 문제"
• "AI 도구가 워낙 강력하다 보니 안주하기 쉽지만, 형사들이 알고리즘 결과에 반드시 사람의 눈으로 확인하는 과정을 거쳐야 한다"는 게 핵심 교훈