유럽연합, AI 생성 공시·광고 표시 기준 구체화…한국 기업도 영향권

유럽연합이 AI 표시 의무를 꽤 구체적으로 꺼냈음

• 유럽연합 집행위원회가 인공지능법 50조 투명성 의무 가이드라인 초안을 공개했음

  • 대상은 인공지능 생성 텍스트, 딥페이크, 챗봇, 인공지능 에이전트의 표시 기준과 적용 범위임
  • 50조 적용 시점은 8월 2일 예정임
  • 위반하면 최대 1500만 유로, 한화 약 262억 원 또는 전 세계 연매출 3% 중 더 높은 금액의 과징금이 가능함

• 유럽 밖 기업도 안심할 수 없음

  • 기업이 유럽연합 밖에 있어도, 인공지능 시스템 출력물이 유럽연합에서 사용되면 규제 대상이 될 수 있다고 명시됨
  • 예시로 제3국 광고회사가 만든 인공지능 딥페이크 광고가 유럽연합에서 쓰이는 경우가 언급됨
  • 한국 기업이 글로벌 광고, 앱, 보고서, 콘텐츠를 유럽 시장에 노출한다면 실무 영향권에 들어올 수 있음

공시·보고서도 표시 대상이 될 수 있음

• 가이드라인은 공익 사안 정보 제공 목적의 인공지능 생성 텍스트에 표시 의무를 걸었음

  • 예시에는 신문 기사 요약, 학술 논문, 공공 경보 메시지, 상장사 웹사이트의 투자자 정보 보고서가 들어감
  • 즉 “마케팅 문구만 조심하면 되겠지” 수준이 아니라, 투자자관계와 이에스지 보고서 자동화까지 닿을 수 있음

• 유럽연합은 ‘인공지능을 썼는가’보다 ‘사람이 실질적으로 책임졌는가’를 더 중요하게 봄

  • 인공지능 생성 텍스트라도 인간이 실질적으로 검토하고 편집 책임을 지면 표시 의무 예외가 가능함
  • 하지만 맞춤법 검사나 형식 수정 정도는 실질 검토로 인정되지 않음
  • 사실관계와 신뢰성을 검토하고, 승인·수정·거부할 권한을 가진 편집 통제가 있어야 함

• 예외를 주장하려면 책임 주체도 드러나야 함

  • 편집 책임을 지는 개인 또는 법인의 신원과 연락처가 공개적으로 확인 가능해야 한다고 규정함
  • 결국 내부 워크플로우에서 “누가 최종 승인했나”를 기록하고 외부에서 확인할 수 있게 해야 하는 방향임

딥페이크 광고와 AI 마케팅은 더 빡세짐

• 딥페이크 콘텐츠는 이용자가 첫 접촉 시점에 알아볼 수 있게 표시해야 함

  • 표시는 명확하고 눈에 잘 띄어야 한다고 설명됨
  • 정치인 연설 영상, 유명인을 활용한 광고 영상, 인공지능 음성 복제 콘텐츠가 사례로 제시됨

• 딥페이크 정의도 넓게 잡힘

  • 실존 인물, 사물, 장소, 사건을 사실적으로 모사해 진짜처럼 인식될 수 있으면 딥페이크에 해당함
  • 꼭 실제 존재하는 대상이 아니어도, 현실적으로 존재 가능해 보이면 포함될 수 있음
  • 반대로 사람이 날거나 용이 등장하는 장면처럼 명백히 비현실적인 콘텐츠는 제외될 수 있음

• 예술·풍자·허구 목적에는 예외 여지가 있지만, 상업 광고는 사안별 검토 대상임

  • 표현의 자유를 고려한 예외는 열어뒀지만, 광고 콘텐츠는 더 조심스럽게 본다는 뜻임
  • 플랫폼은 직접 의무 대상이 아니라고 설명하면서도, 가치사슬 참여자들이 표시 정보를 보존하도록 권고함

오픈소스 AI도 예외가 아님

• 오픈소스 라이선스로 배포된 인공지능 시스템도 투명성 의무 대상에 포함됨

  • “오픈소스니까 표시 의무는 면제” 같은 해석은 통하지 않음
  • 모델 배포 방식보다 출력물의 사용 맥락과 표시 가능성이 더 중요하게 다뤄짐

• 단순한 눈에 보이는 라벨을 넘어 기계가 읽을 수 있는 탐지 체계도 요구됨

  • 예시로 워터마크, 메타데이터, 암호학 기반 출처 증명, 디지털 지문이 제시됨
  • 콘텐츠 관리 시스템, 광고 제작 도구, 보고서 생성 파이프라인에 생성 이력과 출처 정보를 남기는 설계가 필요해질 수 있음

---

기술 맥락

• 이번 가이드라인의 핵심은 모델 성능이 아니라 콘텐츠 생애주기 관리예요. 생성, 편집, 승인, 배포, 보존 단계에서 인공지능이 어디에 쓰였는지 설명할 수 있어야 하거든요.

• 실질적 인간 검토가 중요한 이유는 책임 소재 때문이에요. 단순히 사람이 최종 문서를 열어봤다는 정도로는 부족하고, 사실관계를 고치거나 거부할 권한이 있어야 예외를 주장할 수 있어요.

• 워터마크나 메타데이터가 언급된 건 사람이 보는 라벨만으로는 부족하다는 뜻이에요. 콘텐츠가 여러 플랫폼을 거쳐 재배포되면 표시가 사라질 수 있으니, 기계가 읽을 수 있는 출처 정보가 필요해지는 거예요.

• 개발팀 입장에서는 생성형 인공지능 기능을 붙일 때 컴플라이언스 이벤트를 같이 설계해야 해요. 어떤 모델이 어떤 입력으로 어떤 출력을 만들었고, 누가 승인했는지 남기지 않으면 나중에 표시 의무 예외를 설명하기 어려워져요.