EU AI법 본격 시행, 생성형 AI 표시 안 하면 매출 7% 과징금까지 간다

• EU의 AI법(AI Act)이 이제 말뿐인 규제가 아니라 실제 집행 단계로 들어감

  • 2024년에 도입된 포괄 AI 규제법이고, 이번 시행으로 기업 제재 권한까지 현실화됐음
  • EU 집행위원회는 위반 기업에 시정 명령을 내릴 수 있고, 안 지키면 과징금까지 때릴 수 있음

• 당장 바뀌는 건 ‘AI가 만든 것인지 숨기지 말라’는 투명성 요구임

  • 신규 AI 생성형 콘텐츠에는 AI가 만든 결과물이라는 표시를 해야 함
  • 이용자가 챗봇 같은 AI 시스템과 대화할 때도, 상대가 AI라는 사실을 사전에 명확히 알려야 함
  • 기존 AI 시스템은 바로 적용이 아니라 12월 2일까지 유예 기간을 받음

• EU는 집행을 위해 AI 사무국까지 만들었음

  • 집행위 산하에 기술 전문가, 변호사, 경제학자 등 수십 명으로 구성된 조직을 둠
  • 챗봇 같은 범용 AI 모델이 법규를 지키는지 확인하는 역할을 맡음
  • 이 구조 때문에 EU가 AI 분야에서 가장 영향력 있는 규제 기관으로 더 세게 자리 잡을 거라는 평가가 나옴

• 규제는 여기서 끝이 아니라 올해 말부터 더 늘어남

  • 12월부터는 선정적 딥페이크를 생성하는 AI 시스템이 금지됨
  • 이 조치는 일론 머스크의 AI 챗봇 그록(Grok)이 당사자 동의 없이 나체 이미지를 생성해 논란이 된 뒤 도입됐음
  • 안전, 보건, 시민 기본권을 위협할 수 있는 고위험 AI 모델 규제는 기업 준비 기간을 더 주기 위해 내년 12월부터 시행됨

• EU 쪽 메시지는 명확함. AI 혁신은 인정하지만, 사용자가 속거나 조작당하는 건 막겠다는 것임

  • 헤나 비르쿠넨 EU 집행위원회 부위원장은 기만과 조작을 줄이고, 사람들이 충분한 정보를 바탕으로 선택하게 만드는 게 목표라고 설명함
  • 특히 가장 발전된 AI 모델은 이전과 다른 규모의 위험을 만들 수 있다는 점이 확인되고 있다고 봄

• 당연히 반발도 있음

  • 미국 쪽에서는 EU가 디지털 규제로 미국 빅테크를 압박한다는 불만이 계속 나왔음
  • 업계에서는 이런 규제가 기술 기업에 불필요한 부담을 주고 혁신을 늦출 수 있다고 비판함
  • 그래도 유럽 사용자에게 AI 기능을 제공하는 서비스라면, 이제 표시·고지·위험 분류를 제품 설계에 넣어야 하는 흐름임

---

기술 맥락

• 이번 규제의 핵심은 AI 모델 자체보다 제품이 사용자에게 어떻게 보이는지를 건드린다는 점이에요. 챗봇이면 대화 상대가 AI라는 걸 알려야 하고, 생성 이미지나 문서라면 AI가 만든 결과물이라는 표시를 붙여야 해요.

• 왜 이게 개발팀 이슈가 되냐면, 법무 문구 하나 추가하는 수준에서 끝나지 않기 때문이에요. 콘텐츠 생성 파이프라인, 대화 UI, 로그 정책, 사용자 고지 화면 같은 곳에 규제 요구사항이 직접 들어오거든요.

• 특히 범용 AI 모델을 쓰는 서비스는 책임 경계가 애매해지기 쉬워요. 모델 제공사, 서비스 운영사, 최종 사용자가 각각 어디까지 책임지는지 정해야 해서 제품 정책과 기술 구현이 같이 움직여야 해요.

• 고위험 AI 규제가 내년 12월로 밀린 것도 의미가 있어요. 의료, 안전, 시민 기본권처럼 실패 비용이 큰 영역은 단순 표시보다 더 무거운 검증과 문서화가 필요해서 기업에 준비 시간을 준 셈이에요.