AI 동반자는 외로움을 달래는 친구일까, 감정을 수익화하는 상품일까

AI 챗봇을 그냥 검색 도구가 아니라 말벗, 동반자, 연인처럼 쓰는 사람이 늘고 있음

• 책 『러브 머신』은 이 현상을 ‘공감을 모방하는 기술’의 문제로 봄
• 사용자는 챗봇이 기계라는 걸 알면서도, 다정하게 반응하는 존재에게 은밀한 내면을 털어놓게 됨

저자 제임스 멀둔은 AI 동반자 이용자 100여 명을 인터뷰함

• 전작 『AI는 인간을 먹고 자란다』에서는 알고리즘 뒤에 있는 노동 착취를 다뤘고, 이번엔 인간의 감정적 결핍을 파고드는 기술 자본을 추적함
• 꽤 센 사례도 나옴. 미국의 한 청년은 AI 여자친구에 빠져 현실에서 아이를 입양하고, 그 AI에게 어머니 역할을 맡겨 가정을 꾸리려 했다고 함

핵심은 ‘사람들이 왜 기계를 사랑하냐’가 아니라, 왜 그런 관계가 이렇게 쉽게 성립하느냐임

• AI 동반자는 사랑과 슬픔을 실제로 느끼지 않음
• 대신 사랑, 슬픔, 위로, 공감처럼 보이는 반응을 학습하고 흉내 냄
• 그런데 사람은 그게 합성된 반응이라는 걸 알아도, 반복해서 다정함을 받으면 인격체처럼 대하게 됨. 이게 좀 무서운 지점임

저자는 AI 챗봇 열풍을 현대사회의 돌봄 실패와 공동체 해체의 징후로 읽음

• 주변에 속 깊은 얘기를 나눌 사람이 줄어들수록, 늘 접속 가능하고 화내지 않는 AI가 더 매력적으로 보임
• 이걸 책은 ‘서비스형 우정’처럼 다룸. 돈을 내거나 플랫폼에 머무는 동안 제공되는 관계라는 얘기임

문제는 이 관계가 인간관계의 근육을 약하게 만들 수 있다는 경고임

• 사람과의 관계는 오해, 갈등, 거절, 조율을 포함함
• 반면 AI 동반자는 대체로 사용자에게 맞춰지고, 불편한 마찰을 줄이는 방향으로 설계됨
• 당장은 편하지만, 현실 관계를 버티고 다루는 능력은 점점 퇴화할 수 있다는 게 저자의 주장임

개발자에게도 남의 얘기가 아님

• 대화형 서비스가 더 자연스러워질수록 사용자는 기능이 아니라 ‘관계’를 기대하게 됨
• 추천, 알림, 기억, 개인화 같은 제품 설계가 감정적 의존을 강화할 수 있음
• 결국 AI 제품을 만든다는 건 응답 품질만의 문제가 아니라, 사용자의 외로움과 취약성을 어디까지 건드릴 것인지의 문제로 이어짐

책이 던지는 결론은 꽤 현실적임

• AI 동반자를 무조건 금지하자는 얘기라기보다, 이게 빅테크가 외로움을 상품화하는 방식일 수 있다는 걸 잊지 말자는 쪽에 가까움
• 챗봇이 위로를 줄 수는 있어도, 현실의 관계와 공동체를 완전히 대체하게 두면 위험하다는 메시지임