구글 어스 AI 편집 기능, 가짜 위성사진 논란으로 하루 만에 철회

• 구글이 구글 어스에 AI 이미지 편집 기능을 넣었다가 하루 만에 철회함

  • 7월 30일 구글 어스에 AI 이미지 생성 도구 나노 바나나 2(Nano Banana 2)를 통합한다고 발표함
  • 기능 공개 24시간도 지나기 전인 31일, 더 강한 안전장치를 마련할 때까지 롤백하겠다고 공지함

• 기능 자체는 꽤 강력했음

  • 사용자는 위성사진, 항공사진, 3D 지도 데이터를 바탕으로 특정 위치를 확대하고 몇 초 만에 이미지를 생성할 수 있었음
  • 구글은 역사적 장면 시각화, 부동산 계획, 착공 전 건설 계획 검토 같은 활용처를 제시함

• 문제는 구글 어스가 그냥 이미지 앱이 아니라는 점임

  • 언론인과 연구자들은 전쟁 지역, 재난 현장, 군사시설, 접근 제한 구역을 확인할 때 구글 어스를 기준 자료로 써왔음
  • 그러니까 이 서비스 안에서 그럴듯한 가짜 장면을 만들 수 있으면, 사실확인의 기준점 자체가 흔들림

• 실제로 민감한 가짜 이미지가 만들어졌다는 보도도 나옴

  • 파이낸셜타임스는 가자지구 폭탄 분화구, 이란 핵시설, 암스테르담 거리 자동차 사고 장면 같은 가짜 이미지가 소셜 미디어에 올라왔다고 전함
  • AFP는 자체 시험에서 파리 폭발, 이란 핵시설, 러시아 폭탄 분화구, 시리아 이슬람국가(IS) 훈련장을 연상시키는 가짜 위성 이미지를 만들 수 있었다고 밝힘

• 구글은 AI 생성 이미지가 다른 사용자의 기본 구글 어스 화면에는 표시되지 않았고, 워터마크도 붙어 있었다고 설명함

  • 하지만 전문가들은 이 정도로는 부족하다고 봄
  • 스크린샷으로 잘려 나가거나 소셜 미디어에서 재공유되면 워터마크와 맥락이 같이 유지된다는 보장이 없음

• 브라이언 호로위츠 구글 어스 제품관리자는 신뢰 문제를 직접 언급함

  • 사람들이 구글 어스에 “믿을 만한 방식으로 세계를 보여준다”는 독보적 신뢰를 갖고 있다는 걸 알고 있다고 말함
  • 동시에 정책 위반으로 보이는 생성 이미지 스크린샷이 공유되는 걸 봤고, 그래서 안전장치 구현 전까지 기능을 되돌리겠다고 함

• 비슷한 논란은 다른 플랫폼에서도 반복되는 중임

  • 로이터는 메타가 공개 인스타그램 계정을 이용해 이미지를 생성할 수 있는 뮤즈 이미지 기능을 내놨다가 개인정보 보호 논란으로 중단한 사례도 함께 언급함
  • 생성형 AI 기능은 멋있어 보여도, 기존 서비스의 신뢰 모델과 충돌하면 하루 만에 접히는 상황이 나오는 중

---

기술 맥락

• 이번 논란의 핵심은 이미지 생성 모델 자체보다 배치 위치예요. 구글 어스는 사람들이 현실을 확인할 때 기준으로 삼는 서비스라서, 그 안에 생성 기능을 넣으면 결과물이 훨씬 더 그럴듯하게 받아들여질 수 있거든요.

• 워터마크가 붙어 있었다는 설명도 완전한 해결책은 아니에요. 허위정보는 보통 원본 파일 그대로 퍼지기보다 캡처, 크롭, 재업로드를 거치기 때문에 생성 표시가 쉽게 사라질 수 있어요.

• OSINT 전문가들이 강하게 반발한 이유도 여기에 있어요. 전쟁이나 재난처럼 현장 접근이 어려운 사건에서는 위성·항공 이미지가 검증의 출발점인데, 그 출발점과 비슷한 가짜를 몇 초 만에 만들 수 있으면 검증 비용이 확 올라가요.

• 제품 설계 관점에서는 “무엇을 만들 수 있나”보다 “어디에서 만들게 할 것인가”가 더 중요해졌어요. 같은 AI 편집 기능이라도 일반 이미지 편집 앱에 있는 것과, 전 세계 지리정보의 기준 레이어 안에 들어가는 건 위험도가 완전히 달라요.