메타, 공개 인스타 사진으로 AI 이미지 만들려다 사흘 만에 접었다

• 메타가 공개 인스타그램 사진을 AI 이미지 생성에 활용하는 기능을 내놨다가 사흘 만에 접음

  • 페이스북과 인스타그램을 운영하는 메타가 AI 이미지 생성 모델 ‘뮤즈 이미지’에 넣었던 기능임
  • 공개 인스타그램 계정을 불러오면, 그 계정에 올라온 사진을 참고해서 새 AI 이미지를 만들 수 있게 한 구조였음
  • 기능 공개는 7일, 중단 발표는 10일. 진짜 빠르게 백스텝 밟은 셈임

• 문제는 “공개 계정 사진이면 써도 되는 거 아니냐”라는 접근이 이용자 감각과 크게 어긋났다는 점임

  • 인스타그램에 공개로 사진을 올렸다는 건 사람들이 볼 수 있다는 뜻이지, 누군가 내 사진을 재료로 AI 이미지를 만들어도 된다는 뜻은 아님
  • 특히 얼굴, 신체, 사적인 일상 사진이 섞일 수 있는 서비스라 반발이 더 커질 수밖에 없음
  • 텍스트 데이터보다 이미지 데이터가 훨씬 직접적으로 ‘나’와 연결되기 때문임

• 메타가 공개한 ‘뮤즈 이미지’는 초지능연구소(MSL)가 개발한 첫 이미지 생성 모델로 소개됨

  • 사용자가 일상 언어로 원하는 장면을 설명하면 이미지를 만들 수 있음
  • 기존 사진을 수정하는 기능도 포함됨
  • 여기까지는 요즘 이미지 생성 모델에서 익숙한 흐름인데, 공개 인스타그램 계정 사진을 참고 자료로 가져오는 기능이 선을 넘었다는 반응을 부른 것

• 이용자 반발이 커진 포인트는 크게 두 가지임

  • 첫째, 공개 계정 사진이 별도 사전 동의 없이 AI 이미지 제작에 활용될 수 있다는 점
  • 둘째, 사진 활용을 원하지 않으면 사용자가 직접 관련 설정을 꺼야 했다는 점
  • 여기에 다른 사람이 내 사진을 활용하더라도 별도 알림을 받지 못하는 것으로 알려지면서 “내 사진이 어디에 쓰이는지 모른다”는 불안이 커짐

• 메타는 결국 공식 블로그에서 해당 기능을 더 이상 제공하지 않겠다고 밝힘

  • 발표 문구는 “기대에 미치지 못했다는 의견을 반영해 해당 기능을 중단했다”는 식임
  • 기업 입장에서는 기능 실험이었을 수 있지만, 이용자 입장에서는 사전 동의 없는 얼굴·이미지 활용 문제로 받아들여진 셈

• 이 사례는 AI 제품에서 데이터 사용 동의가 얼마나 민감한 UX 문제가 됐는지 보여줌

  • 법적으로 공개 데이터 접근이 가능하더라도, 이용자가 기대한 사용 범위와 다르면 바로 반발이 터질 수 있음
  • 특히 소셜 서비스는 사진의 맥락이 중요함. 친구에게 보여주려고 올린 사진과 AI 생성 재료로 쓰이는 사진은 완전히 다른 경험임
  • 개발자 입장에서는 기본값을 켜둘지, 명시적 동의를 받을지, 알림을 줄지 같은 제품 결정이 곧 신뢰 문제라는 걸 봐야 함

---

기술 맥락

• 이번 기능에서 메타가 택한 선택은 공개 인스타그램 계정을 이미지 생성 모델의 참고 자료로 연결하는 방식이에요. 왜 문제가 됐냐면, 공개 게시물이라는 접근 가능성과 AI 생성 재료로 쓰인다는 사용 목적이 이용자 머릿속에서는 전혀 다르게 받아들여지거든요.

• 특히 동의 구조가 중요해요. 사용자가 원치 않으면 직접 꺼야 하는 Opt-out 방식은 성장에는 유리하지만, 얼굴이나 일상 사진처럼 민감한 데이터에서는 반발을 부르기 쉬워요. 기본값이 켜져 있으면 이용자는 자기 사진이 이미 쓰였을지도 모른다고 느끼게 돼요.

• 다른 사람이 내 공개 사진을 참고해 이미지를 만들 수 있는데 알림도 없다면 통제감이 거의 사라져요. 이미지 생성 모델에서는 결과물이 원본을 그대로 복사하지 않더라도, 당사자 입장에서는 자신의 정체성과 초상이 재조합되는 문제로 보일 수밖에 없어요.

• 그래서 AI 기능을 붙일 때는 모델 성능보다 데이터 경계 설계가 먼저인 경우가 많아요. 어떤 데이터를 쓸지, 누가 호출할 수 있는지, 당사자에게 어떤 알림과 차단 권한을 줄지 정하지 않으면 기능이 좋아도 신뢰를 잃기 쉬워요.