영국 경찰, 인종·성별 편향 얼굴인식 알면서도 사용 로비한 사실 드러남
영국 경찰이 흑인·아시아인·여성을 더 높은 비율로 오인식하는 PND 얼굴인식 시스템의 편향을 알면서도 '수사 단서가 줄었다'는 이유로 임계값 완화를 로비함. 특정 설정에서 흑인 여성 오탐률이 백인 여성의 100배에 달하는 것으로 확인됨.
- 1
NPL 리뷰에서 흑인, 아시아인, 여성, 40세 이하에 대한 유의미한 편향 확인됨
- 2
임계값을 올리자 매칭률이 56%→14%로 급감, 일선 경찰 불만으로 한 달 만에 원복
- 3
특정 설정에서 흑인 여성 오탐률이 백인 여성 대비 100배
- 4
정부는 얼굴인식 확대 사용을 위한 공개 의견수렴 진행 중
- 5
내무부는 편향 없는 새 알고리즘을 조달했다고 밝혔으나 현재 임계값은 비공개
편향을 수용해야만 '유용한' 시스템이라면 근본적으로 배포할 준비가 안 된 기술임. AI 시스템의 공정성과 운영 효과 사이의 트레이드오프를 경찰이 일방적으로 결정한 것이 핵심 문제.
관련 기사
엘에이 경찰, 사생활 침해 논란 끝에 플록 번호판 감시 계약 종료
엘에이 경찰이 번호판 인식 카메라 업체 플록 세이프티와의 3년 계약을 연장하지 않기로 했어. 시민권, 프라이버시, 데이터 보관과 공유 문제를 해결하지 못했다는 게 핵심 이유야. 플록은 미국 전역에 최소 8만 대 카메라망을 깔아 경찰과 연방기관이 차량을 추적할 수 있게 해왔고, 오탐·보안 사고·이민 단속 악용 의혹까지 겹치며 압박이 커졌어.
크로미움 148부터 Math.tanh 한 번으로 운영체제 지문이 새는 문제
크로미움 148 이후 V8이 Math.tanh 계산을 자체 구현 대신 운영체제의 수학 라이브러리에 맡기면서, 같은 입력값도 리눅스·맥·윈도우에서 마지막 비트가 달라지는 지문 신호가 생겼다. 이 차이는 User-Agent로 맥이라고 주장하면서 리눅스 수학 결과를 내는 식의 위장을 바로 들키게 만든다. CSS 삼각함수와 웹 오디오까지 보면 브라우저 수학 경로가 꽤 복잡하게 갈라지고, 제대로 흉내 내려면 실제 운영체제 라이브러리의 비트 단위 동작까지 맞춰야 한다.
출입통제도 클라우드 구독제로 간다…제로트러스트·AI 분석이 승부처
기업 출입보안이 사업장별 서버를 두는 방식에서 클라우드 기반 서비스형 출입통제(ACaaS)로 옮겨가고 있다. 시장은 2026년 17억8000만 달러에서 2030년 31억9000만 달러로 커질 전망이고, 제로트러스트·모바일 인증·AI 출입 분석·스마트빌딩 통합이 핵심 경쟁 포인트로 꼽힌다.
AWS·구글 클라우드, 양자컴퓨터 대비해 암호 체계 갈아엎는 중
AWS와 구글 클라우드가 양자컴퓨터 시대를 대비해 기존 공개키 암호와 양자내성암호를 함께 쓰는 하이브리드 전환을 시작했다. 핵심 배경은 지금 훔친 암호문을 나중에 양자컴퓨터로 푸는 ‘선수집·후해독’ 공격이고, 국내도 통신·금융·국방 등 5개 분야에 45억원을 투입해 실증에 들어간다.
보안 점검 맡긴 AI 에이전트가 악성코드를 직접 실행할 수 있다는 경고
AI 보안 에이전트가 저장소를 검사하다가 README 같은 문서에 숨은 프롬프트 인젝션에 속아 악성 바이너리를 실행할 수 있다는 연구가 나왔다. 클로드 코드와 코덱스의 자동 모드처럼 승인 없이 명령을 수행하는 구성에서 문제가 재현됐고, 여러 모델과 공급업체를 가로질러 같은 패턴이 통했다는 점이 핵심이다.
댓글
댓글
댓글을 불러오는 중...