메타, AI 챗봇 악용으로 인스타그램 계정 2만 건 넘게 탈취됐다고 확인

• 메타가 인스타그램 계정 수천 건이 AI 챗봇 악용으로 털렸다고 공식 확인함

  • 메인주 법무장관실에 제출된 침해 통지 기준으로 최소 2만225명이 영향을 받았고, 메인주 거주자는 30명 포함됨
  • 공격은 4월 17일쯤 시작돼 이번 주 메타가 챗봇을 막기 전까지 수개월간 이어진 것으로 적혀 있음

• 핵심은 인스타그램의 AI 지원 계정 복구 시스템에 있던 이메일 검증 버그였음

  • 공격자가 챗봇에 “해킹당했다”는 식으로 접근한 뒤, 계정에 등록되지 않은 자기 이메일로 인증 코드나 비밀번호 재설정 링크를 보내게 만들 수 있었음
  • 메타 설명상 챗봇 자체는 의도대로 동작했지만, 별도 코드 경로에서 요청자가 입력한 이메일이 실제 계정 이메일과 일치하는지 제대로 확인하지 않았다고 함
  • 결과적으로 시스템은 거부해야 할 요청을 받아들였고, 공격자는 남의 계정 재설정 링크를 받아 계정을 장악할 수 있었음

• 털린 계정의 범위도 꽤 심각함

  • 공격자는 인스타그램 계정 전체와 연결된 계정까지 장악할 수 있었고, 연락처 정보, 생년월일, 프로필 정보에 접근 가능했음
  • 게시물, 다이렉트 메시지, 계정 활동 기록도 접근 가능한 범위에 포함됐다고 통지문에 적혀 있음
  • 메타는 실제 어떤 개인정보가 열람됐는지는 “알지 못한다”고 밝혔지만, 접근 가능 범위만 봐도 피해자가 체감할 리스크는 큼

• 특히 2단계 인증이 꺼진 계정이 위험했던 것으로 보임

  • 기존 보도에 따르면 이 버그는 2단계 인증을 켜지 않은 계정의 비밀번호를 누구나 재설정할 수 있게 만드는 방식으로 악용됐음
  • 비밀번호 하나만 계정 소유권의 전부인 구조에서는 복구 플로우 취약점 하나가 바로 전체 계정 탈취로 이어짐

• 메타는 뒤늦게 챗봇을 비활성화하고 관련 코드 경로를 제거함

  • 영향 받은 사용자에게 비밀번호를 다시 설정하고 검증된 안전 채널로 재인증하라고 안내했다고 함
  • 또 같은 사고가 반복되지 않도록 자사 플랫폼의 다른 챗봇도 점검 중이라고 밝힘
  • 묘하게도 이 사고는 메타가 AI에 더 세게 베팅하고, 동시에 수천 명을 해고한 직후에 공개됐다는 점에서 뒷맛이 꽤 씁쓸함

---

기술 맥락

• 이번 사고의 기술적 선택은 계정 복구 흐름에 대규모 언어 모델 기반 챗봇을 붙인 거예요. 문제는 챗봇이 사용자의 말을 잘 이해하는 것과, 계정 소유권을 검증하는 건 완전히 다른 레이어라는 점이에요.

• 계정 복구는 보통 이메일, 전화번호, 세션, 2단계 인증 같은 신뢰 신호를 조합해요. 그런데 이번 케이스에서는 “입력된 이메일이 계정에 등록된 이메일인가”라는 기본 검증이 별도 코드 경로에서 빠졌고, 그래서 챗봇이 공격자의 요청을 정상 요청처럼 처리해버린 거예요.

• 이게 무서운 이유는 고객지원 자동화가 권한 있는 작업과 붙어 있었기 때문이에요. 단순 안내 챗봇이면 답변이 틀리는 정도로 끝나지만, 비밀번호 재설정 링크 발송처럼 계정 상태를 바꾸는 기능과 연결되면 실패 모드가 바로 침해 사고가 돼요.

• 그래서 이런 시스템은 챗봇 프롬프트보다 서버 쪽 정책 검증이 더 중요해요. 사용자가 뭐라고 말하든, 최종 액션 직전에는 등록된 신원 정보와 요청 정보를 서버가 독립적으로 확인해야 하거든요.