AI 봇 스웜이 민주주의를 위협한다 — Science 저널 공동 경고

AI 봇 스웜이 민주주의를 위협한다는 전문가 경고

• 노벨 평화상 수상자 마리아 레사, 버클리·하버드·옥스퍼드·케임브리지·예일 소속 AI 및 사회과학 연구자들이 Science 저널에 공동 경고를 발표함. 핵심: 인간을 모방하는 악성 AI 에이전트 "스웜(swarm)"이 소셜 미디어와 메시징 채널에 침투해 여론을 조작하는 것이 새로운 파괴적 위협이라는 거임

• 구체적 시나리오: 독재자 지망생이 AI 스웜을 배포해 선거 취소를 수용하게 하거나 결과를 뒤집도록 대중을 설득할 수 있음. 2028년 미국 대선까지 대규모 배치가 가능할 것이라는 예측

• 이미 초기 버전이 실전 투입됨. 2024년 대만·인도·인도네시아 선거에서 AI 기반 영향력 작전이 사용된 바 있음

왜 기존 봇보다 위험한가

• 기존 봇과 다른 점: ① 자율적으로 협력·조정 가능 (에이전틱 AI의 발전) ② 커뮤니티에 침투해 시간을 두고 취약점 학습 ③ 적절한 슬랭 사용, 불규칙 포스팅으로 탐지 회피 ④ 소셜 미디어뿐 아니라 메시징, 블로그, 이메일까지 최적 채널 선택

• 오슬로 Sintef 연구소의 다니엘 슈뢰더는 실험실에서 스웜을 시뮬레이션 중인데, "이걸 바이브 코딩으로 만들어서 소셜 미디어를 돌아다니게 하는 게 무섭도록 쉽다"고 증언함

• BI 노르웨이 경영대학원의 요나스 쿤스트 교수: "봇들이 집단으로 진화해서 정보를 교환하며 악성 목표를 해결하기 시작하면 — 커뮤니티를 분석하고 취약점을 찾는 것 — 조율이 정확도와 효율성을 높일 것"

대만에서 실제로 벌어지고 있는 일

• 대만 민진당 의원 푸마 셴의 증언이 구체적임: 최근 2-3개월간 Threads와 Facebook에서 중국 발 AI 봇이 시민들과의 상호작용을 늘리고 있음

• 봇의 전술이 교묘함: "중국이 좋다"고 직접 말하는 게 아니라, 검증 불가능한 대량의 정보를 쏟아부어 정보 과부하를 만들고, 젊은 대만인들에게 "중국-대만 분쟁은 매우 복잡하니 잘 모르면 편을 들지 마라"고 중립을 유도함

반론도 있음

• 선전 기술 전문가 잉가 트라우틱: "2024년 선거에서 학자들이 예측한 만큼 AI 마이크로타겟팅을 많이 보진 못했음. 정치 선전가들 대부분은 아직 구식 기술을 쓰고 있고 최첨단이 아님"

• 정치인들이 캠페인 통제권을 AI에 넘기기 꺼려하는 점, 유권자가 여전히 오프라인 소재에 더 영향받는 점도 속도를 늦추는 요인

• 다만 옥스퍼드 AI 교수 마이클 울드리지: "허무맹랑하지 않음. 기술적으로 완벽히 실현 가능하고, 점점 더 좋아지고 접근성도 높아지고 있음"

• 대응책으로 "스웜 스캐너"와 워터마크 콘텐츠를 통한 글로벌 공조를 촉구하고 있음