본문으로 건너뛰기
피드

유럽연합, AI 생성 공시·광고 표시 기준 구체화…한국 기업도 영향권

ai-ml 약 6분
vote
0
댓글
북마크

유럽연합이 인공지능법 50조 투명성 의무 가이드라인 초안을 공개하며 인공지능 생성 텍스트, 딥페이크, 챗봇, 인공지능 에이전트 표시 기준을 구체화했다. 유럽 밖 기업이라도 출력물이 유럽연합에서 사용되면 규제 대상이 될 수 있어, 글로벌 서비스를 운영하는 한국 기업도 대응이 필요하다.

  • 1

    인공지능법 50조는 8월 2일 적용 예정이며 위반 시 최대 1500만 유로 또는 전 세계 연매출 3% 과징금이 가능하다

  • 2

    공익 사안 정보 제공 목적의 인공지능 생성 텍스트는 표시 대상이며, 상장사 투자자 정보 보고서도 예시에 포함됐다

  • 3

    딥페이크 광고, 유명인 합성 영상, 인공지능 음성 복제 콘텐츠는 이용자가 첫 접촉 시점에 알아볼 수 있게 표시해야 한다

유럽연합이 AI 표시 의무를 꽤 구체적으로 꺼냈음

  • 유럽연합 집행위원회가 인공지능법 50조 투명성 의무 가이드라인 초안을 공개했음

    • 대상은 인공지능 생성 텍스트, 딥페이크, 챗봇, 인공지능 에이전트의 표시 기준과 적용 범위임
    • 50조 적용 시점은 8월 2일 예정임
    • 위반하면 최대 1500만 유로, 한화 약 262억 원 또는 전 세계 연매출 3% 중 더 높은 금액의 과징금이 가능함
  • 유럽 밖 기업도 안심할 수 없음

    • 기업이 유럽연합 밖에 있어도, 인공지능 시스템 출력물이 유럽연합에서 사용되면 규제 대상이 될 수 있다고 명시됨
    • 예시로 제3국 광고회사가 만든 인공지능 딥페이크 광고가 유럽연합에서 쓰이는 경우가 언급됨
    • 한국 기업이 글로벌 광고, 앱, 보고서, 콘텐츠를 유럽 시장에 노출한다면 실무 영향권에 들어올 수 있음

⚠️주의

> 이건 유럽 회사만 보는 규제가 아님. 출력물이 유럽연합에서 쓰이면 역외 기업도 걸릴 수 있다는 점 때문에, 글로벌 서비스의 콘텐츠 생성 파이프라인까지 점검 대상이 됨.

공시·보고서도 표시 대상이 될 수 있음

  • 가이드라인은 공익 사안 정보 제공 목적의 인공지능 생성 텍스트에 표시 의무를 걸었음

    • 예시에는 신문 기사 요약, 학술 논문, 공공 경보 메시지, 상장사 웹사이트의 투자자 정보 보고서가 들어감
    • 즉 “마케팅 문구만 조심하면 되겠지” 수준이 아니라, 투자자관계와 이에스지 보고서 자동화까지 닿을 수 있음
  • 유럽연합은 ‘인공지능을 썼는가’보다 ‘사람이 실질적으로 책임졌는가’를 더 중요하게 봄

    • 인공지능 생성 텍스트라도 인간이 실질적으로 검토하고 편집 책임을 지면 표시 의무 예외가 가능함
    • 하지만 맞춤법 검사나 형식 수정 정도는 실질 검토로 인정되지 않음
    • 사실관계와 신뢰성을 검토하고, 승인·수정·거부할 권한을 가진 편집 통제가 있어야 함
  • 예외를 주장하려면 책임 주체도 드러나야 함

    • 편집 책임을 지는 개인 또는 법인의 신원과 연락처가 공개적으로 확인 가능해야 한다고 규정함
    • 결국 내부 워크플로우에서 “누가 최종 승인했나”를 기록하고 외부에서 확인할 수 있게 해야 하는 방향임

딥페이크 광고와 AI 마케팅은 더 빡세짐

  • 딥페이크 콘텐츠는 이용자가 첫 접촉 시점에 알아볼 수 있게 표시해야 함

    • 표시는 명확하고 눈에 잘 띄어야 한다고 설명됨
    • 정치인 연설 영상, 유명인을 활용한 광고 영상, 인공지능 음성 복제 콘텐츠가 사례로 제시됨
  • 딥페이크 정의도 넓게 잡힘

    • 실존 인물, 사물, 장소, 사건을 사실적으로 모사해 진짜처럼 인식될 수 있으면 딥페이크에 해당함
    • 꼭 실제 존재하는 대상이 아니어도, 현실적으로 존재 가능해 보이면 포함될 수 있음
    • 반대로 사람이 날거나 용이 등장하는 장면처럼 명백히 비현실적인 콘텐츠는 제외될 수 있음
  • 예술·풍자·허구 목적에는 예외 여지가 있지만, 상업 광고는 사안별 검토 대상임

    • 표현의 자유를 고려한 예외는 열어뒀지만, 광고 콘텐츠는 더 조심스럽게 본다는 뜻임
    • 플랫폼은 직접 의무 대상이 아니라고 설명하면서도, 가치사슬 참여자들이 표시 정보를 보존하도록 권고함

오픈소스 AI도 예외가 아님

  • 오픈소스 라이선스로 배포된 인공지능 시스템도 투명성 의무 대상에 포함됨

    • “오픈소스니까 표시 의무는 면제” 같은 해석은 통하지 않음
    • 모델 배포 방식보다 출력물의 사용 맥락과 표시 가능성이 더 중요하게 다뤄짐
  • 단순한 눈에 보이는 라벨을 넘어 기계가 읽을 수 있는 탐지 체계도 요구됨

    • 예시로 워터마크, 메타데이터, 암호학 기반 출처 증명, 디지털 지문이 제시됨
    • 콘텐츠 관리 시스템, 광고 제작 도구, 보고서 생성 파이프라인에 생성 이력과 출처 정보를 남기는 설계가 필요해질 수 있음

💡

> 인공지능 생성 콘텐츠를 이미 쓰고 있다면, 표시 문구보다 먼저 봐야 할 건 승인 로그와 책임자 기록임. “사람이 봤다”가 아니라 “누가, 무엇을, 어떤 권한으로 검토했는가”가 규제 언어에 가까움.


기술 맥락

  • 이번 가이드라인의 핵심은 모델 성능이 아니라 콘텐츠 생애주기 관리예요. 생성, 편집, 승인, 배포, 보존 단계에서 인공지능이 어디에 쓰였는지 설명할 수 있어야 하거든요.

  • 실질적 인간 검토가 중요한 이유는 책임 소재 때문이에요. 단순히 사람이 최종 문서를 열어봤다는 정도로는 부족하고, 사실관계를 고치거나 거부할 권한이 있어야 예외를 주장할 수 있어요.

  • 워터마크나 메타데이터가 언급된 건 사람이 보는 라벨만으로는 부족하다는 뜻이에요. 콘텐츠가 여러 플랫폼을 거쳐 재배포되면 표시가 사라질 수 있으니, 기계가 읽을 수 있는 출처 정보가 필요해지는 거예요.

  • 개발팀 입장에서는 생성형 인공지능 기능을 붙일 때 컴플라이언스 이벤트를 같이 설계해야 해요. 어떤 모델이 어떤 입력으로 어떤 출력을 만들었고, 누가 승인했는지 남기지 않으면 나중에 표시 의무 예외를 설명하기 어려워져요.

생성형 인공지능 도입이 ‘기능 붙이기’에서 ‘증빙 가능한 거버넌스’로 넘어가는 구간이다. 특히 콘텐츠, 광고, 투자자관계, 이에스지 보고서를 자동화하는 팀은 사람이 검토했다는 말만으로는 부족하고, 누가 책임지는지까지 설계해야 한다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.