AI 에이전트 시대, 사람들은 왜 통제감을 잃고 있다고 느끼나

AI가 만든 인터넷에서 사람은 뭘 하고 있나

• 글의 출발점은 2018년에 나온 “인터넷의 역전”이라는 문제의식임

  • 당시에는 봇이 너무 많아져서 온라인에서 마주치는 사람이 진짜 사람인지 믿기 어려워졌다는 얘기였음
  • 저자는 지금 보면 그 시절 걱정이 오히려 순진해 보인다고 말함
  • 이제는 자율 AI 에이전트가 이메일을 답하고, 문자를 보내고, 코드를 지우고, 검색 결과를 AI 문장으로 채우는 상황까지 왔기 때문

• 핵심 주장은 “진실”보다 더 근본적인 “통제감”이 무너지고 있다는 것

  • AI 슬롭, AI 인플루언서, 가짜 계정, 자동화된 마케팅, 봇 군단이 섞이면서 사람들은 계속 조작당하는 느낌을 받음
  • 어떤 글이 인기 있는지, 어떤 음악이 진짜 유행인지, 어떤 리뷰가 믿을 만한지 판단하기가 점점 흐려짐
  • 그래서 온라인에서 뭔가 수상하면 바로 “심리전 아니냐”는 식의 의심이 튀어나오는 분위기가 생김

• 저자는 이 흐름을 “agency crisis”, 즉 주체성의 위기로 봄

  • 생성형 AI 붐은 실리콘밸리가 사회 전체에 던진 거대한 실험처럼 보인다는 것
  • 질문은 단순히 “AI가 뭘 할 수 있나”가 아니라 “그럼 인간은 뭘 위해 남아 있나”에 가까움
  • 개발자, 작가, 학생, 임원 모두 각자 다른 방식으로 같은 불안을 겪고 있다는 해석임

글쓰기, 검색, 피드가 전부 의심스러워지는 순간

• 문학 쪽 사례로는 영국 문예지 그랜타의 단편 수상작 논란이 등장함

  • 독자들이 수상작에서 챗봇 문체의 흔적을 의심했고, 다른 수상작들까지 AI 탐지기에 돌려보기 시작함
  • 재단은 처음에는 수상자들이 AI를 쓰지 않았다고 했다가, 이후 다시 들여다보겠다는 식으로 입장을 바꿈
  • AI 낙관론자들은 “모델이 그만큼 정교해졌다”고 봤고, 회의론자들은 “슬롭의 임계점”처럼 받아들임

• 검색도 비슷한 방향으로 바뀌고 있음

  • 구글은 링크 기반 검색 결과의 대안으로, AI 에이전트가 웹을 훑고 표준 답변이나 개인화 알림을 가져오는 방식을 내놓고 있음
  • 예전에는 사람이 링크를 타고 다니며 맥락을 잡았다면, 이제는 모델이 대신 훑고 “답은 이거야”라고 말하는 구조가 커짐
  • 편하긴 한데, 사용자가 직접 판단하는 과정은 점점 얇아짐

• “Human-in-the-loop”라는 말도 글에서는 꽤 차갑게 해석됨

  • 업계는 사람이 프롬프트를 넣고, 평가하고, 승인하고, 모니터링하니 여전히 루프 안에 있다고 말함
  • 하지만 실제로는 여러 기계가 상호작용한 결과를 사람이 뒤에서 반응하는 장면이 많아졌다는 지적
  • 피드에서 AI 생성 영상과 글을 소비하고 스와이프할 때마다, 사람은 알고리즘과 생성 모델의 상호작용에 투표하는 존재가 됨

실리콘밸리의 “고주체성” 담론이 더 불편한 이유

• 흥미로운 대목은 AI를 가장 열심히 미는 사람들이 동시에 “high-agency” 인간을 숭배한다는 부분임

  • 베이 에어리어 빌더 문화에서는 고주체성인 사람이 야망 있고, 실행력 있고, 사람과 기계를 잘 동원하는 이상형으로 여겨짐
  • 반대로 늦게 적응하는 사람은 “영구 하층”이 될 수 있다는 식의 표현까지 나온다고 함
  • AI가 사람 일을 대체할 수 있다고 말하면서, 동시에 특정 인간만 대체 불가능하다고 말하는 셈이라 좀 살벌함

• 저자는 생성형 AI가 초기 인터넷의 약속을 뒤집고 있다고 봄

  • 초기 인터넷은 레딧, 위키피디아, 댓글, 좋아요처럼 사람이 참여하고 지식을 행사하는 매체라는 감각이 강했음
  • 지금의 AI 시스템은 사람을 “상담받는 존재”가 아니라 “챗봇에게 상담하는 존재”로 바꿈
  • 협업과 탐색의 필요를 줄이고, 답변 기계가 문제 해결의 무거운 부분을 가져가는 구조임

• 그래서 AI 반발이 데이터센터 반대 시위나 시의회 공개 발언 같은 물리적 공간에서 나타나는 것도 상징적임

  • 온라인에서는 통제감이 줄어드니, 사람들이 실제 지역 사회의 절차 안에서 자기 목소리를 내는 쪽으로 움직인다는 해석
  • 정보가 아니라 인간성이 사라지고 있다는 불만이 기술 논쟁 바깥에서 터져 나오는 셈

• 글의 결론은 꽤 어둡지만, 개발자에게는 제품 질문으로 바꿔 읽을 수 있음

  • AI 기능이 사용자의 판단력을 확장하는지, 아니면 선택지를 가리고 정답처럼 포장하는지 봐야 함
  • 자동화가 협업을 줄이고 검토만 남기는 구조라면, 사용자는 편해지는 동시에 더 수동적인 위치로 밀릴 수 있음
  • “여기 답이 있습니다”라는 블랙박스가 편리할수록, 사람이 직접 탐색하던 인터넷의 쾌감은 더 빨리 낡은 기억이 될 수 있음