연구자들이 LLM으로 Reddit·HN 사용자를 대규모 신원 식별하는 데 성공

• ETH Zurich와 Anthropic 연구진이 LLM을 이용한 대규모 익명 사용자 신원 식별(deanonymization)이 가능하다는 걸 증명한 논문임. 익명성이 사실상 끝났다는 이야기
• 파이프라인은 4단계임: 텍스트에서 신원 신호 추출 → 임베딩(embedding)으로 후보 검색 → 후보들에 대해 추론 → 신뢰도 보정
• 주요 결과가 충격적임:
  • HN → LinkedIn 매칭: 99% 정밀도에서 45.1% 재현율 (987건 쿼리). 기존 방법은 0.1%
  • Reddit 영화 커뮤니티: 99% 정밀도에서 2.8% 재현율. 기존 방법은 0%
  • Reddit 시간분할 매칭 (과거↔미래 활동): 99% 정밀도에서 38.4% 재현율. 기존 방법은 0.2%
  • 완전 자율 에이전트: HN 프로필만으로 90% 정밀도에서 67% 사용자 식별. 비용은 건당 1~4달러
• 데이터가 많을수록 식별이 쉬움. 영화 10개 이상 공유한 사용자는 48% 재현율 vs 1개만 공유한 사용자는 3%
• 규모 확장성도 있음. 로그-선형(log-linearly)으로 스케일링돼서 후보 100만 명이면 90% 정밀도에서 ~35% 재현율, 1억 명이면 ~27% 재현율로 추정
• 추론 능력(reasoning)을 높이면 성능이 올라감. 고수준 추론 시 99% 정밀도에서 재현율이 1.4% → 2.8%로 상승
• Anthropic의 AI Interviewer 데이터셋에서 익명화된 인터뷰 만으로 125명 중 최소 9명을 실제로 식별해냄
• 위협 대상은 내부 고발자, 활동가, 학대 생존자 등 익명성에 안전이 달린 사람들임. 정부가 반체제 인사를 추적하거나, 기업이 비판자를 식별하거나, 스토커가 피해자를 찾는 데 악용 가능
• 현재 효과적인 방어책이 없음. k-익명성(k-anonymity)이나 차등 프라이버시(differential privacy)는 구조화된 데이터 기준으로 설계된 것이라 텍스트의 의미론적 신호까지는 막지 못함. 플랫폼 API 속도 제한이 도움은 되지만 근본 해결은 아님
• 핵심은 LLM이 초인적 능력을 가진 게 아니라 비용을 극단적으로 낮춘 것임. 숙련된 조사관이 몇 시간 걸리던 작업이 1~4달러로 자동화됐다는 게 진짜 문제