구글 어스, 가짜 위성사진 만들 수 있는 AI 기능 넣었다가 하루 만에 롤백

• 구글 어스가 AI 이미지 생성 기능을 넣었다가 하루 만에 철회했음

  • 구글은 7월 30일 구글 어스에 AI 이미지 생성 도구 ‘나노 바나나 2’를 통합한다고 발표함
  • 사용자는 위성사진, 항공사진, 3D 지도 데이터를 바탕으로 특정 위치를 확대해 몇 초 만에 이미지를 만들 수 있었다고 함
  • 그런데 하루도 지나지 않아 허위정보 악용 우려가 커지면서 31일 기능을 롤백함

• 처음 의도는 꽤 그럴듯했음

  • 구글 어스 제품관리자는 역사를 시각화하거나, 부동산 계획을 만들거나, 착공 전 건설 계획을 시각화하는 식의 활용을 예로 들었음
  • 지리공간 전문가들이 실제로 유용한 목적으로 쓰는 모습도 봤다고 구글은 설명함
  • 문제는 같은 기능으로 그럴듯한 가짜 위성사진도 만들 수 있었다는 점임. 아, 이건 선 넘기 쉬운 조합임

• 실제로 민감한 가짜 이미지 사례가 바로 나왔음

  • 파이낸셜타임스는 구글 어스 기능으로 만든 가자지구 폭탄 분화구, 이란 핵시설, 암스테르담 자동차 사고 장면 같은 가짜 이미지가 엑스(X)에 올라왔다고 전함
  • AFP 통신도 자체 시험에서 파리 폭발, 이란 핵시설, 러시아 폭탄 분화구, 시리아 이슬람국가(IS) 훈련장 같은 국제 민감 사안의 가짜 위성 이미지를 만들 수 있었다고 보도함
  • 이 정도면 단순 장난 이미지가 아니라, 분쟁·외교·안보 이슈에 바로 꽂힐 수 있는 소재임

• 전문가들이 특히 문제 삼은 건 구글 어스의 위치임

  • 구글 어스는 전쟁 지역, 접근이 어려운 현장, 재난 피해, 군사시설 등을 확인할 때 언론인과 연구자들이 기준 자료로 써온 도구임
  • 앨런 튜링 연구소의 샘 스톡웰 선임연구원은 구글 어스가 수십 년간 의심스러운 이미지를 대조하는 기준 레이어 역할을 해왔다고 말함
  • 그의 표현대로라면, 가짜를 폭로하는 데 쓰이는 잣대 안에 생성형 도구를 넣는 건 그 잣대 자체를 오염시키는 일임

• 구글은 신뢰 문제를 인정하고 안전장치 강화 전까지 기능을 내렸음

  • 제품관리자는 사람들이 구글 어스에 품고 있는 독보적 신뢰를 알고 있다고 밝힘
  • 동시에 정책을 위반하는 것으로 보이는 생성 이미지 스크린샷이 공유되는 것도 봤다고 설명함
  • 그래서 더 강력한 안전장치를 구현하는 동안 구글 어스에서 해당 기능을 롤백하겠다고 공지함

• 메타도 비슷한 흐름에서 AI 기능을 중단한 적이 있음

  • 메타는 공개 인스타그램 계정을 이용해 이미지를 생성할 수 있는 ‘뮤즈 이미지’ 기능을 도입했다가 개인정보 보호 논란으로 중단한 바 있음
  • 빅테크들이 생성형 AI 기능을 제품 곳곳에 꽂아 넣는 속도가 안전성 검토보다 빠른 것 아니냐는 의심이 나올 만함

sequenceDiagram
    participant 구글
    participant 구글어스
    participant 사용자
    participant 소셜미디어
    participant 검증전문가
    구글->>구글어스: 나노 바나나 2 통합
    사용자->>구글어스: 민감 지역 이미지 생성
    사용자->>소셜미디어: 가짜 위성 이미지 공유
    검증전문가->>구글: 허위정보 악용 우려 제기
    구글->>구글어스: 기능 롤백

기술 맥락

• 여기서 중요한 선택은 생성형 이미지 기능을 일반 이미지 편집 앱이 아니라 구글 어스 안에 넣었다는 점이에요. 구글 어스는 그냥 멋진 지구본 앱이 아니라, 실제 지형과 시설을 확인하는 기준 자료로 쓰여왔거든요.

• 왜 문제가 커졌냐면, 위성사진은 원래 검증 비용이 높아요. 일반 사용자가 가자지구나 이란 핵시설의 실제 상태를 직접 확인할 수 없으니, 그럴듯한 이미지가 나오면 반박하는 쪽이 훨씬 많은 노력을 들여야 해요.

• 생성형 AI를 붙이는 방식 자체가 나쁜 건 아니에요. 건설 계획 시각화나 도시 변화 예측처럼 쓸모 있는 용도도 분명 있어요. 하지만 실제 지도 데이터와 합성 이미지를 한 화면에서 다룰 때는 워터마크, 생성 이력, 공유 제한, 민감 지역 차단 같은 장치가 먼저 설계돼야 해요.

• 이번 롤백은 기능 실패라기보다 신뢰 레이어 관리 실패에 가까워요. 개발팀 입장에서는 AI 기능을 붙일 때 “무엇을 만들 수 있나”만 볼 게 아니라, 이 제품이 사용자에게 어떤 증거 능력을 갖고 있는지까지 같이 봐야 해요.