AI 시대 인간은 고정된 범주가 아니라 확률 분포에 가깝다는 이야기

이 글의 출발점은 정치적 성향을 ABC 같은 벤다이어그램으로 나누는 시도에 대한 비판임

• 필자는 이런 도식이 현실을 설명하는 것처럼 보이지만, 실제로는 추상적 틀에 사람을 억지로 끼워 넣는 방식이라고 봄
• 화이트헤드가 말한 ‘잘못 놓인 구체성의 오류’가 여기서 등장함. 사람이 만든 추상 개념을 현실 그 자체처럼 착각하는 오류라는 뜻

그렇다고 사람들이 단순 범주를 좋아하는 걸 그냥 무식하다고 볼 수는 없다는 입장임

• 인간은 복잡한 현실을 매번 다 계산하기보다, 빠르게 판단할 수 있는 범주를 선호하도록 진화했다는 설명
• 대니얼 카너먼식으로 말하면 인지 에너지를 아끼려는 지름길이고, 해리슨 화이트식으로 보면 정체성 범주는 사회적 상호작용을 굴리는 통화 같은 것
• 그러니까 사람들은 피곤한 다차원 현실보다 단순한 ABC를 원한다는 얘기

하지만 통계학과 확률론이 발전하면서 세상을 보는 방식은 점점 바뀌어 왔음

• 현실은 명확히 나뉜 교차표가 아니라, 여러 특성이 스펙트럼처럼 펼쳐진 확률 분포에 가깝다는 것
• 시장, 정부, 국제정치 같은 큰 시스템도 결정론적 범주만으로 설명하기 어려워졌다는 흐름을 짚음

AI는 이 변화를 더 극단으로 밀어붙임

• 수백만 명의 일상 행동은 수조 개 범주가 겹친 고차원 공간에서 패턴을 만듦
• 알고리즘은 사람이 이름 붙이기 어려운 클러스터를 찾고, AI는 우리가 A나 B라고 부르는 집단 안에서도 미세한 차이를 포착함
• 필자는 그래서 AI가 보는 인간을 ‘확률적 유령’에 가깝다고 표현함

글의 결론은 범주를 버리자는 단순한 얘기가 아님

• 대중이 ABC 같은 범주를 필요로 하는 건 현실적인 인지 방식이라고 인정함
• 다만 그 범주 뒤에는 훨씬 풍부하고 연속적인 분포가 있다는 사실을 계속 환기해야 한다는 주장
• AI 시대에는 인간을 단순 범주로 보는 정치적·사회적 언어와, 인간을 고차원 분포로 보는 알고리즘적 시선 사이의 간극이 더 커질 수 있음

개발자 입장에서 읽을 만한 지점은 설명 가능성과 모델링의 문제임

• 추천 시스템, 광고 타기팅, 리스크 평가 모델은 이미 사람을 수많은 변수의 조합으로 다룸
• 그런데 서비스 화면이나 정책 언어는 여전히 “이 사용자군”, “이 성향”, “이 세그먼트”처럼 단순 범주를 요구함
• 이 간극을 무시하면 모델은 정교한데 설명은 납작한, 꽤 위험한 시스템이 나올 수 있음