본문으로 건너뛰기
J
피드

영국 경찰, 인종·성별 편향 얼굴인식 알면서도 사용 로비한 사실 드러남

security 약 3분
tags
#facial-recognition#bias#privacy#uk-police#ai-ethics
vote
0
댓글
북마크

영국 경찰이 흑인·아시아인·여성을 더 높은 비율로 오인식하는 PND 얼굴인식 시스템의 편향을 알면서도 '수사 단서가 줄었다'는 이유로 임계값 완화를 로비함. 특정 설정에서 흑인 여성 오탐률이 백인 여성의 100배에 달하는 것으로 확인됨.

  • 1

    NPL 리뷰에서 흑인, 아시아인, 여성, 40세 이하에 대한 유의미한 편향 확인됨

  • 2

    임계값을 올리자 매칭률이 56%→14%로 급감, 일선 경찰 불만으로 한 달 만에 원복

  • 3

    특정 설정에서 흑인 여성 오탐률이 백인 여성 대비 100배

  • 4

    정부는 얼굴인식 확대 사용을 위한 공개 의견수렴 진행 중

  • 5

    내무부는 편향 없는 새 알고리즘을 조달했다고 밝혔으나 현재 임계값은 비공개

  • 영국 경찰이 PND(Police National Database) 얼굴인식 시스템의 편향성을 알면서도 계속 사용하도록 로비한 사실이 가디언 보도로 드러남
  • NPL(National Physical Laboratory) 리뷰 결과: 흑인, 아시아인, 여성, 40세 이하를 유의미하게 더 높은 비율로 오인식함. 특정 설정에서 흑인 여성의 오탐률이 백인 여성 대비 100배에 달함
  • NPCC(전국경찰서장협의회)는 2024년 9월 편향성 보고를 받고 신뢰도 임계값을 올렸음. 그랬더니 매칭 결과가 56%에서 14%로 급감함

⚠️주의

핵심 문제 일선 경찰이 "수사 단서가 너무 줄었다"고 불만을 제기하자 NPCC는 한 달 만에 임계값을 원래대로 되돌림. 편향 감소보다 "운영 효과"를 선택한 것

  • 경찰 측은 "공공 보호를 위한 균형 잡힌 결정이었고 가이드라인을 재교육했다"고 해명했지만, 비판론자들은 "편향을 수용해야만 유용해지는 시스템이라면 근본적으로 문제"라고 반박함
  • 경찰부 장관 사라 존스는 이 기술을 "DNA 매칭 이후 가장 큰 돌파구"라고 표현. 정부는 얼굴인식 사용 확대를 위한 10주간 공개 의견수렴을 시작함
  • 내무부는 "통계적으로 유의미한 편향이 없는 새 알고리즘을 조달했고 곧 테스트할 것"이라고 밝혔지만, 현재 어떤 임계값을 쓰고 있는지는 공개 거부함
  • 인종행동계획 독립감시위원장은 "안면인식 도입이 인종 격차, 약한 감시, 부실한 데이터 수집이 이미 존재하는 환경에서 진행되고 있다"고 경고함

편향을 수용해야만 '유용한' 시스템이라면 근본적으로 배포할 준비가 안 된 기술임. AI 시스템의 공정성과 운영 효과 사이의 트레이드오프를 경찰이 일방적으로 결정한 것이 핵심 문제.

prev

이전 기사 (P)

next

다음 기사 (N)

댓글

댓글

댓글을 불러오는 중...

관련 기사

security

한양대 에리카와 네이버클라우드, 클라우드·보안·AI 인재 키우는 산학협력 체결

한양대 에리카가 네이버클라우드와 첨단 분야 지역인재 양성과 글로벌 산학협력을 위한 업무협약을 맺었다. 협력 범위는 클라우드, 사이버보안, 블록체인, 개인정보보호, 인공지능(AI), 디지털 전환(DX) 교육·연구 기반 구축까지 포함된다.

security

악성 npm 패키지가 AI 개발도구의 지침 파일과 MCP까지 노리기 시작함

이스트시큐리티가 웹과 탈중앙화금융 개발자를 겨냥한 악성 npm 패키지 캠페인을 포착했어. 공격자는 유명 웹3 도구를 사칭하는 데서 그치지 않고, AI 에이전트가 읽는 프로젝트 지침 파일과 MCP 기반 외부 도구 호출까지 공격 경로로 삼으려 했어.

security

금융권, 앤트로픽 미토스가 찾은 오픈소스 취약점에 긴급 점검 들어감

앤트로픽의 AI 모델 클로드 미토스가 1000개 넘는 오픈소스에서 대량의 취약점 후보를 찾아냈고, 그중 일부가 실제 취약점으로 검증돼 공개됐어. 금융당국은 nginx, wolfSSL, FreeRDP, Ghost 같은 널리 쓰이는 구성요소를 중심으로 금융권에 긴급 자산 점검과 패치 적용을 권고했어.

security

애플이 양자 내성 암호화 검증 코드를 공개했다, 핵심은 수학적 증명

애플이 corecrypto 라이브러리의 포스트 양자 암호화 구현과 검증 코드를 GitHub에 공개했다. ML-KEM, ML-DSA 구현과 형식 검증 접근을 공개해 보안 연구자들이 직접 검토할 수 있게 했고, 이 기술은 25억 대 이상 활성 기기에서 쓰이는 암호화 기반과 연결된다.

security

라라벨 번역 패키지 태그가 통째로 바뀌었다, 개발자 비밀값 털리는 공급망 공격

전 세계 라라벨 개발자가 쓰는 Laravel-Lang 패키지가 공격을 받아 Git 태그가 악성 버전을 가리키도록 바뀌었다. 5월 22일 약 90분 동안 4개 저장소의 태그가 교체됐고, 감염된 패키지는 AWS 키, GitHub 토큰, Stripe 시크릿, 암호화폐 지갑 복구 구문, SSH 개인키 등을 노렸다.