선거철 AI 딥페이크 비상, 처벌은 센데 집행 구멍이 남았다

6·3 지방선거를 앞두고 정부가 AI 딥페이크와 가짜뉴스에 꽤 강한 경고를 날리는 중임

• 김민석 국무총리는 공식 선거운동 전날인 5월 20일, AI 가짜뉴스에 대해 무관용 원칙으로 엄단하겠다고 밝힘
• 정부 쪽 메시지는 단순함. 빨리 지우고, 최초 제작자부터 유포자까지 추적하겠다는 것

이미 선거법에는 AI 딥페이크 금지 조항이 들어가 있음

• 공직선거법 82조8항은 선거일 90일 전부터 선거일까지 딥페이크 영상·음성을 제작, 편집, 유포, 상영, 게시하는 행위를 금지함
• 어기면 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금형까지 가능함
• 처벌 수위만 보면 가볍게 넘길 문제가 절대 아님

문제는 법이 있어도 진짜와 가짜를 구분하기 어려운 콘텐츠가 계속 나온다는 점임

• 최근에는 경기 평택을 재선거에 출마한 조국 후보로 추정되는 남성이 전통시장에서 짐을 드는 AI 이미지가 온라인에 퍼져 논란이 됨
• 조 후보는 페이스북에서 실제로 안중시장에서 할머니 짐을 들어드린 적은 있지만, 해당 AI 생산물은 캠프도 조국혁신당도 만든 적이 없다고 선을 그음
• 이런 케이스가 골치 아픈 이유는 완전한 허위와 실제 사건 기반 합성이 섞이면 일반 유권자가 판단하기 더 어려워지기 때문임

해외에서도 선거철 AI 조작물은 이미 현실적인 공격 수단이 됐음

• 대표 사례가 2024년 미국 대선 과정에서 나온 조 바이든 딥페이크 전화 사건임
• 뉴햄프셔주 프라이머리 전에 바이든 전 대통령 목소리를 흉내 낸 가짜 전화가 민주당원들에게 투표 불참을 종용함
• 텍스트 가짜뉴스보다 음성·영상 조작이 더 위험한 이유가 여기 있음. 사람은 “봤다”거나 “들었다”는 감각을 생각보다 쉽게 믿음

AI기본법도 시행됐지만, 이번 선거에서 바로 강하게 작동하긴 애매함

• AI기본법은 생성형 AI 결과물을 제공할 때 AI로 만들었다는 사실을 표시하도록 정하고 있음
• 그런데 올해 1월 시행 후 1년 동안 과태료를 부과하지 않는 계도기간이 적용됨
• 즉 6월 지방선거까지는 표시 의무가 있어도 실질적인 제재 압박은 약하다는 얘기임

전문가가 짚은 진짜 구멍은 “누가 만들었냐”와 “선거 결과를 어떻게 다룰 거냐”임

• 정당이 악의적 콘텐츠를 유포해 선거에 영향을 줬다면 상대 후보에게 페널티를 주는 식의 대응이 가능함
• 하지만 특정 정당과 직접 관련 없는 개인 콘텐츠 사업자가 딥페이크를 만들어 퍼뜨린 경우가 문제임
• 개인 처벌은 가능해도 후보와 직접 연결되지 않으면 선거 결과 자체를 되돌리기 어렵다는 한계가 남음

개발자 관점에서 보면 이건 단순한 정치 뉴스가 아니라 콘텐츠 신뢰 인프라 문제에 가까움

• 워터마킹, 생성물 표시, 출처 추적, 플랫폼 신고·삭제 자동화, 딥페이크 탐지 같은 기술이 모두 얽혀 있음
• 하지만 선거처럼 시간이 짧고 파급이 큰 이벤트에서는 “나중에 잡았다”가 별 의미 없을 수 있음
• 결국 기술 탐지와 법 집행, 플랫폼 운영 정책이 같은 속도로 움직이지 않으면 허점은 계속 남을 가능성이 큼