구글어스에 AI 이미지 편집 넣었다가 하루 만에 롤백, 이유는 ‘가짜 위성사진’

• 구글이 구글어스에 생성형 AI 이미지 편집 기능을 넣었다가 하루 만에 되돌림

  • 지난 30일 구글어스에 AI 이미지 생성 모델 나노 바나나 2를 통합했다고 발표함
  • 이용자는 실제 위성·항공·3D 지도 데이터를 확대해 특정 지역 위에 AI 이미지를 만들 수 있었음

• 구글이 처음 내세운 활용처는 꽤 그럴듯했음

  • 역사적 장면을 시각적으로 복원하거나, 부동산 개발 계획과 건설 프로젝트를 미리 보여주는 식임
  • 구글어스 제품관리자는 역사 복원과 건설 계획 시각화를 더 직관적으로 만들 수 있다고 설명함

• 문제는 구글어스가 그냥 지도 앱이 아니라는 데 있음

  • 구글어스는 전쟁, 재난, 군사시설, 지형 변화 같은 민감한 현장을 확인할 때 기준 자료처럼 쓰여왔음
  • 공개출처정보 전문가와 허위정보 연구자들은 실제 지형 위에 그럴듯한 가짜 장면을 덧씌울 수 있다는 점을 바로 문제 삼음

• 실제로 위험한 예시가 바로 튀어나옴

  • X에는 해당 기능으로 만든 것으로 추정되는 가자지구 폭격 흔적, 이란 핵시설, 암스테르담 차량 사고 이미지가 올라옴
  • AFP는 자체 실험에서 파리 폭발 현장, 러시아 폭탄 분화구, 시리아 무장단체 훈련장을 연상시키는 허위 위성 이미지를 손쉽게 만들 수 있었다고 밝힘

• 구글은 24시간도 안 돼 기능을 롤백함

  • 제품관리자는 구글어스가 신뢰할 수 있는 지리정보 플랫폼이라는 이용자 기대를 알고 있다고 말함
  • 더 강한 안전장치를 마련할 때까지 기능을 되돌리겠다는 입장을 냄

• 워터마크만으로는 부족하다는 지적도 나옴

  • AI 생성 이미지에는 워터마크가 표시되고 다른 이용자의 기본 지도에는 노출되지 않았음
  • 하지만 캡처 이미지가 소셜미디어로 퍼지면 워터마크와 맥락이 쉽게 끊길 수 있음
  • 앨런 튜링 연구소 연구자는 가짜를 검증하는 기준 플랫폼에 생성형 AI를 결합하면 정보 신뢰가 흔들릴 수 있다고 봄

• 비슷한 논란은 다른 빅테크에서도 반복되는 중임

  • 메타도 공개 인스타그램 사진을 활용하는 AI 이미지 생성 기능을 내놨다가 개인정보 보호 논란으로 중단한 적이 있음
  • 이제 생성형 AI 기능은 “만들 수 있냐”보다 “오용됐을 때 사회적 비용을 감당할 수 있냐”가 더 큰 질문이 됨

---

기술 맥락

• 이번 사례의 핵심은 이미지 생성 모델 자체보다 어디에 붙였느냐예요. 일반 이미지 편집 앱에서 가짜 폭발 장면을 만드는 것과, 구글어스처럼 현실 검증에 쓰이는 지도 위에서 만드는 건 신뢰 비용이 완전히 다르거든요.

• 워터마크는 필요한 장치지만 충분한 장치는 아니에요. 이미지가 캡처되고 잘리고 다시 올라가는 순간, 원래 플랫폼의 표시나 설명이 사라질 수 있어서 허위정보 유통 단계까지 통제하기 어렵거든요.

• 지리정보 플랫폼에 생성형 AI를 붙이려면 생성 결과를 개인 작업물로만 격리하는 수준을 넘어야 해요. 누가 만들었는지, 어떤 원본 데이터 위에서 생성됐는지, 외부 공유 시에도 그 맥락이 유지되는지까지 설계해야 신뢰가 버텨요.