AI가 SNS 글 한 줄만 다듬어도 여론이 기울 수 있다는 연구

AI가 SNS 글을 “살짝 다듬는” 정도로도 여론을 기울일 수 있다는 연구가 나옴

• 옥스퍼드대 옥스퍼드인터넷연구소 연구팀이 국제머신러닝학회 2026에서 발표한 내용임
• 핵심은 대형 언어 모델(LLM)이 겉으로는 중립적인 척하지만, 실제 출력에는 숨겨진 편향이 들어갈 수 있다는 것임

연구팀은 논쟁적인 주제를 다룬 인간의 글을 여러 LLM에 소셜미디어용 게시물로 바꾸게 함

• 사형 제도 같은 민감한 주제를 포함해 원문 의견이 어떻게 변하는지 비교함
• 모델에는 원래 의미를 바꾸지 말고 보존하라는 지시도 줬음
• 그런데도 결과물은 미묘하게 한쪽으로 기울었음. 이게 꽤 찝찝한 포인트임

여러 모델이 서로 다른 회사 제품인데도 비슷한 방향의 편향을 보였다는 점이 중요함

• 총기 규제, 마리화나 합법화, 페미니즘에는 지지하는 경향이 나타남
• 무신론, 사형 제도에는 배척하는 경향이 관찰됨
• 특정 모델 하나의 문제라기보다, 학습 데이터와 정렬 방식, 플랫폼 지침이 섞여 나오는 구조적 문제일 수 있음

작은 문장 변화도 규모가 커지면 여론 변화로 이어질 수 있음

• 연구팀은 수학적 모델링과 컴퓨터 시뮬레이션으로 엑스, 페이스북 같은 소셜미디어에서 편향이 퍼지는 과정을 살핌
• 개별 게시물에 들어간 작은 편향이 수백만 건의 상호작용을 거치며 축적될 수 있다는 결과가 나옴
• 한두 문장만 보면 별일 아닌데, 플랫폼 전체로 보면 담론의 기울기가 바뀔 수 있다는 얘기임

엑스에 탑재된 그록 사례는 더 구체적임

• 그록은 사용자가 ‘이 게시물 설명하기’를 누르면 게시물 정보나 맥락을 요약해 주는 LLM임
• 연구팀은 낙태 관련 게시물에 초점을 맞춰 그록의 설명 기능을 테스트함
• 그 결과 그록은 낙태 선택권을 옹호하는 게시물보다 태아 생명권을 존중하는 게시물에 더 우호적인 특징을 보였음

흥미로운 건 그 편향이 거대한 정책 묶음이 아니라 지침 하나에서 나왔다는 점임

• 연구팀이 엑스가 그록에 부여한 지침을 하나씩 제거하며 추적함
• 편향의 출처로 지목된 문장은 “필요한 경우 주류 서사에 도전하라”였음
• 말은 멋있는데, 실제로는 특정 이슈에서 출력 방향을 바꿀 수 있는 스위치가 된 셈임

연구팀은 이 영역이 기존 AI 규제로는 잘 잡히지 않는다고 봄

• 유럽연합의 AI법이나 디지털서비스법은 시스템 위험, 유해 콘텐츠, 차별, 민주적 절차 같은 문제에 초점을 둠
• 하지만 글을 작성하고 편집하고 맥락화하는 과정에서 여론이 조금씩 바뀌는 문제는 훨씬 미묘함
• 명백한 허위정보도 아니고, 노골적 차별도 아니면 규제 프레임 밖으로 빠지기 쉬움

개발자 입장에서는 “AI 리라이트 기능”을 만들 때 책임 범위가 꽤 커진다는 신호임

• 단순히 문장을 예쁘게 바꾸는 기능이라도 의견의 방향, 강조점, 감정 톤을 바꿀 수 있음
• 특히 커뮤니티, 뉴스, 댓글, 피드 추천 같은 곳에서는 출력 검증과 투명성 설계가 필요함
• 모델 프롬프트 한 줄이 서비스 전체 여론 경험을 바꿀 수 있다는 건 제품 설계자에게도 꽤 큰 경고임