AI 시대에 인간의 가치를 굳이 성능으로 증명하려 하지 말자는 글

이 글의 핵심은 간단함 — AI 시대에 인간의 가치를 'AI보다 잘하니까'로 방어하지 말자는 것

• 흔한 주장은 이런 식임. AI는 어떤 역할을 절대 못 한다, 인간이 더 잘한다, 인간의 미묘한 스타일은 AI가 못 따라 한다는 식
• 글쓴이는 이 논리가 계속 골대를 옮기는 방식이라고 봄. 2023년 ChatGPT 기준으로는 맞았을 수 있지만, 앞으로도 계속 맞을지는 모른다는 것
• 그래서 더 튼튼한 문장은 그냥 '인간은 가치 있다'라고 말하는 거라고 함. 벤치마크 점수나 최신 프런티어 모델 성능에 조건을 걸 필요가 없다는 얘기

'인간의 산출물이 더 고품질이라서 인간이 가치 있다'는 논리는 생각보다 위험함

• 이 말은 뒤집으면 인간의 가치가 산출물 품질에 달려 있다는 뜻이 돼버림
• AI와 인간 사이의 능력 격차가 좁아질수록 이 방어선은 계속 밀릴 수밖에 없음
• 글쓴이는 인간의 가치를 특정 시점의 모델 성능 스냅샷에 묶어두지 말자고 함

창작물의 품질을 볼 때도 '형태'만 보면 부족하다고 지적함

• 글쓴이는 창작을 '의도를 형태로 증류하는 일'로 봄
• 인간은 머릿속에 있는 무언가가 결과물과 맞아떨어질 때까지 계속 만들고, 고치고, 다시 다듬음
• 그러니까 결과물의 품질에는 겉으로 보이는 문장이나 이미지뿐 아니라, 그 안에 어떤 의도가 있었는지가 같이 들어감

생성형 AI의 특이한 점은 의도가 거의 없어도 그럴듯한 형태를 많이 만들어낸다는 데 있음

• 예를 들어 '상사에게 보낼 사직서를 써줘'라고 하면, 사용자의 생각이 별로 정리되지 않았어도 AI는 꽤 완성된 편지를 만들어냄
• 사용자는 '음, 괜찮네' 하고 넘어갈 수 있지만, 실제로 본인이 무엇을 말하고 싶었는지는 흐릿할 수 있음
• 글쓴이는 이게 생성형 AI의 병리라고 봄. 형태는 풍부한데 의도는 잘 안 보이는 결과물이 너무 쉽게 나온다는 것

여기서 'AI 슬롭'에 대한 해석도 살짝 바뀜

• 보통 AI slop은 AI가 만든 저품질 콘텐츠를 낮춰 부르는 말임
• 그런데 글쓴이는 슬롭을 '형태 뒤에 있는 의도를 식별하기 어려운 결과물'로 볼 수도 있다고 함
• 이 정의라면 인간도 슬롭을 만들 수 있음. 다만 생성형 AI가 의도 없는 형태를 만드는 진입 장벽을 확 낮췄다는 게 차이임

인상적인 일화는 LLM으로 이메일을 대신 쓰는 얘기임

• 글쓴이의 친구 Tom Hudson은 'LLM으로 나에게 이메일을 쓸 거면 차라리 프롬프트를 보내달라'고 말했다고 함
• 이유는 단순함. 완성된 AI 이메일보다 프롬프트를 보면 상대가 실제로 무엇을 말하고 싶었는지 더 잘 알 수 있기 때문임
• 개발자 입장에서도 PR 설명, 이슈 코멘트, 장애 공유문을 AI로 매끈하게 만들 때 한 번 찔리는 포인트임

결론은 꽤 인간적이지만, 기술 논쟁에도 쓸 만함

• 인간이 가치 있는 이유를 '아직 AI보다 더 잘해서'로 잡으면 모델이 좋아질수록 설명이 약해짐
• 반대로 인간의 의도, 책임, 맥락은 단순 산출물 품질과 다른 축에 있음
• AI가 만들어준 문장이 완성돼 보인다고 해서, 그 안에 말하는 사람의 의도가 자동으로 생기는 건 아니라는 얘기임