소셜 미디어 때 망친 선택, AI에서도 반복할 건가

Bruce Schneier와 Nathan Sanders가 Lawfare에 기고한 글. 20년 전 소셜 미디어가 등장했을 때 사회가 제대로 된 선택을 못 했고, 지금 AI 앞에서 똑같은 갈림길에 서 있다는 주장임.

영국 법조인 Jamie Susskind가 2020년 저서 "Future Politics"에서 던진 질문이 핵심임: "우리 삶이 얼마나 강력한 디지털 시스템에 의해 통제되어야 하는가?" 소셜 미디어는 개인에게 힘을 준다더니 결국 우리를 지배했고, AI도 같은 길을 걷고 있다는 거임.

저자들은 4가지 핵심 선택지를 제시함.

행정부와 사법부: 기존 법을 AI에도 적용할 것인가

• 연방선거위원회(FEC)가 AI 딥페이크(deepfake)로 상대 후보를 사칭하는 행위를 사기로 판단함. 사람이 배우를 고용해서 사칭하면 사기인데, AI로 하면 괜찮냐는 질문에 "당연히 안 됨"이라고 결론 낸 거임
• 법원에서는 AI가 창작물을 무단 재사용하는 게 표절/저작권 침해인지 다투는 중인데, 판결이 엇갈리고 있음
• 에어캐나다(Air Canada) 사례가 흥미로운데, AI 챗봇이 고객에게 한 약속에 대해 회사가 책임져야 한다고 판결남. 보험사들이 이 리스크에 대한 보험 상품까지 내놓기 시작함

의회: 프라이버시 입법

• EU는 GDPR 도입한 지 거의 10년인데, 미국은 아직도 연방 차원의 포괄적 개인정보보호법이 없음. 미국 기업들이 EU 고객 데이터는 열심히 보호하면서 자국민 데이터는 방치하는 아이러니
• Oracle 데이터 프로파일링, Facebook-Cambridge Analytica 스캔들, Google의 개인정보 옵트아웃 무시 등 사고가 터져도 의회는 꿈쩍도 안 함
• 프라이버시만 문제가 아니라 데이터 이동성(data portability)도 중요함. AI 서비스가 개인 맥락 데이터를 많이 알수록 좋은 서비스를 제공하는 구조에서, 사용자가 자기 데이터를 다른 서비스로 옮길 수 없으면 락인(lock-in)이 됨. 소셜 미디어에서 팔로워 때문에 플랫폼 못 떠나는 것과 같은 패턴

주정부: AI 기업에 세금을 매길 것인가

• 연방 의회가 우물쭈물하는 사이 주 정부들이 움직이고 있음. 여러 주에서 청소년 소셜 미디어 접근을 제한했고, 캘리포니아는 업계 로비를 뚫고 AI 규제법을 통과시킴
• 메릴랜드(Maryland)가 미국 최초로 디지털 광고 플랫폼에 세금을 부과함. AI 기업들이 사회에 떠넘기는 비용(일자리 감소, 학교 부정행위, 정신건강 문제)을 세금으로 환수해서 공공 서비스에 쓰자는 논리임

시민의 선택: 어떤 제품을 쓸 것인가

• 2006년 페이스북이 대학생 전용에서 일반 공개로 전환했을 때가 소셜 미디어의 분기점이었음. 무료 서비스의 대가는 관심과 개인정보 착취였음
• 현재 미국인 절반 정도가 매일 AI를 쓰는데, 대부분 Meta, Google, Microsoft, OpenAI, Anthropic 같은 빅테크 제품임
• 비영리 대안도 있음: AllenAI, EleutherAI 같은 오픈소스 프로젝트는 투명한 기반 위에서 로컬 실행이 가능함
• 정부 주도 대안도 나오는 중. 싱가포르, 인도네시아, 스위스가 영리 기업의 왜곡된 인센티브 없는 공공 AI를 구축하고 있음. 스위스의 공공 모델 Apertus는 무료로 사용 가능함