AI가 책까지 쓰는 시대, ‘사람이 썼다’가 프리미엄이 됐다

• 출판업계에서 ‘AI로 썼냐, 사람이 썼냐’가 꽤 큰 계약 이슈가 됐음

  • 생성형 AI가 책의 조사, 집필, 편집 전반에 들어오면서 출판사들이 저자 계약서에 AI 사용 조항을 넣기 시작함
  • 대체로 자료 조사, 사실확인, 맞춤법·문법 교정, 긴 자료 요약은 허용할 수 있지만, AI가 실제 원고를 생성하는 건 금지하는 식임
  • 문제는 이 경계가 생각보다 흐릿하다는 거임. 요약하다가 없는 인용문을 만들어내면 그게 조사 보조인지, 원고 생성인지 애매해짐

• 상징적인 사고는 스티븐 로젠바움의 논픽션 ‘진실의 미래’에서 터졌음

  • 이 책은 AI와 기술이 진실을 어떻게 바꾸는지 다뤘는데, 정작 책 안에 실제로 존재하지 않거나 출처가 잘못된 인용문이 들어간 것으로 드러남
  • 저자는 AI를 원고 작성에 직접 쓰진 않았고, 자료 조사·정리와 문서·인터뷰 요약에 썼다고 밝힘
  • 그런데 AI가 일부 요약 내용을 실제 발언처럼 보이는 직접 인용문으로 바꿨고, 저자와 편집자 모두 출간 전까지 못 잡아냄

• 소설 쪽도 안전하지 않음. AI 원고가 출판사와 에이전트로 대량 유입되는 중임

  • 프랑스계 대형 출판사 아셰트는 미아 밸러드의 공포소설 ‘샤이 걸’이 AI로 일부 집필됐다는 의혹이 나오자 영국 판매를 중단하고 미국 출간을 취소함
  • 저자는 AI 사용 주장을 부인했지만, 출판사 내부에서도 정식 출간 전 AI 작성 가능성을 걸러내지 못했다는 점이 업계에 꽤 큰 신호가 됨
  • 사람이 쓴 글도 어색할 수 있고, 숙련된 작가가 AI 문장을 세밀하게 고치면 탐지기를 통과할 가능성도 있어서 기술만으로 판별하기 어렵다는 얘기가 나옴

• AI 탐지기만 믿기도 어렵고, 탐지 결과만으로 계약을 끊는 것도 위험함

  • 미국작가조합은 AI 탐지 결과나 온라인 의혹만으로 계약을 취소하거나 책을 철수시키는 건 중대한 계약 위반이 될 수 있다고 경고함
  • 그래서 현실적인 대안으로는 저자와 출판사가 각자 AI 사용 범위를 공개하는 방식이 거론됨
  • 블룸즈버리는 생성형 AI 사용을 금지하면서도, 인간 창작을 대체하지 않는 일부 보조 상황은 열어두는 식의 애매한 균형을 택함

• 독자 수요도 바뀌는 중임. 실용서는 챗봇에게 일부 자리를 뺏기고 있음

  • 2025년 세계 도서시장 규모는 1400억달러, 한국 돈으로 약 205조8000억원 수준임
  • 그런데 영국 논픽션 판매량은 2025년에 6% 감소했고, 출판업계는 팟캐스트·유튜브뿐 아니라 챗봇 사용 증가도 영향을 줬다고 봄
  • 자기계발, 요리, 전기, 금융처럼 ‘답을 얻고 싶은’ 분야는 독자가 책 한 권보다 챗봇 요약이나 대화형 답변을 더 편하게 느낄 수 있음

• 자비출판 시장에서는 AI의 영향이 훨씬 더 노골적임

  • 미국에서 국제표준도서번호(ISBN)를 받은 신간은 2025년 400만종을 넘었고, 전년보다 3분의 1 증가함
  • 이 중 5분의 4 이상이 자비출판 도서였음
  • AI를 쓰면 하루에 한 권씩 책을 만들어내는 것도 가능해져서, 에이전트와 편집자가 검토해야 할 원고량이 급증하고 있음
  • 아마존 킨들 다이렉트 퍼블리싱은 AI 생성 콘텐츠 사용 신고를 요구하지만, 조사나 교정 같은 보조 사용은 공개하지 않아도 됨

• 그래서 ‘인간 저술’이 책의 기본 조건이 아니라 프리미엄 표시가 되는 분위기임

  • 미국작가조합과 영국작가협회는 AI가 본문을 생성하지 않았고, 맞춤법·문법 수정 같은 제한적 범위에서만 쓰인 책에 ‘인간 저술’ 표시를 허용함
  • 다만 인증만으로 오류가 사라지는 건 아님. 로젠바움의 책도 인간 저술 취지의 고지를 담았지만 허위 인용문을 못 걸렀음
  • 앤스로픽은 출판물 48만권 이상을 대규모언어모델(LLM) 훈련에 사용한 문제로 저자·출판사들과 15억달러, 약 2조2000억원 규모 합의에 도달함

---

기술 맥락

• 여기서 중요한 선택은 AI를 금지할지 허용할지가 아니라, 어느 단계에서 어떤 책임을 붙일지예요. 조사, 요약, 교정은 겉보기엔 보조 작업이지만, 허위 인용문처럼 사실 자체를 바꿔버리면 결과물의 신뢰를 무너뜨리거든요.

• 출판사가 계약서에 AI 사용 범위를 넣는 이유도 기술 탐지의 한계 때문이에요. 탐지기는 참고 신호는 줄 수 있지만, 사람이 고친 AI 문장이나 애초에 애매한 협업 과정을 법적 증거처럼 확정하기는 어렵거든요.

• 자비출판 플랫폼 입장에서는 신고제와 업로드 제한이 현실적인 방어선이에요. 아마존이 형식별 주 10권 제한을 둔 건 AI로 대량 생산된 저품질 책이 검색과 추천 시스템을 오염시키는 문제를 줄이려는 조치로 볼 수 있어요.

• 개발자 관점에선 이 이슈가 콘텐츠 서비스 설계와도 바로 이어져요. 생성형 AI 기능을 넣을 때 ‘AI가 썼는가’보다 ‘AI가 어떤 단계에 개입했고, 누가 최종 책임을 지는가’를 로그와 고지, 검수 플로우로 남기는 게 더 중요해져요.