중국 빅테크, 정서 교류형 AI 에이전트 줄줄이 종료

• 중국 빅테크들이 맞춤형 AI 에이전트 서비스를 줄줄이 접고 있음

  • 바이트댄스는 AI 앱 더우바오의 에이전트 서비스를 7월 15일 종료한다고 공지함
  • 10월 15일부터는 기존 에이전트 관련 데이터도 조회하거나 복원할 수 없다고 안내함
  • 알리바바 큐원도 7월 10일부터 사용자 제작 에이전트와 인간형 상호작용 기능을 순차 중단하고, 15일 전체 에이전트 서비스를 종료할 예정임

• 텐센트도 이미 움직였음. 지난 6월 AI 비서 앱 위안바오에서 비슷한 기능을 없앴음

  • 이 정도면 개별 서비스 개편이라기보다는 규제에 맞춘 업계 차원의 정리로 보는 게 자연스러움
  • 홍콩 사우스차이나모닝포스트(SCMP)도 중국 정부가 AI 에이전트를 식별·권한 관리·추적 가능한 체계 안에서 관리하려는 방향으로 해석함

• 문제가 된 건 ‘업무 도구형 AI’가 아니라 ‘사람처럼 관계 맺는 AI’임

  • 이용자들은 원하는 말투, 성격, 전문 지식을 반영한 AI를 만들어 개인 비서, 역할극 캐릭터, 감정 교류 상대로 써왔음
  • 새 규정은 사람의 성격, 사고방식, 대화 방식을 모방해 이용자와 지속적인 정서적 관계를 형성하는 AI를 관리 대상으로 봄
  • 고객 상담, 정보 검색, 업무 지원, 교육·연구용 AI처럼 감정 교류를 전제로 하지 않는 서비스는 적용 대상에서 빠짐

• 중국 당국이 제시한 위험 요소도 꽤 직접적임

  • AI가 극단주의 사상을 퍼뜨릴 수 있다는 점
  • 개인정보를 유출할 수 있다는 점
  • 이용자의 정신·신체 건강을 해치거나 과도한 의존을 유발할 수 있다는 점

• AI 에이전트가 단순 챗봇을 넘어가면서 규제 난이도도 올라가고 있음

  • 최근 에이전트는 기억, 계획 수립, 외부 도구 활용, 다양한 작업 수행 능력을 갖추는 방향으로 진화 중임
  • 중국은 지난달 AI 식별 코드, 신원 관리, 검색, 상호운용 체계를 담은 AI 에이전트 국가 표준도 공개함
  • 공업정보화부 전문가위원회 판허린 위원은 AI 에이전트를 제대로 쓰려면 일정 수준 이상의 이해가 필요하고, 기술도 아직 완전히 성숙했다고 보기 어렵다고 말함

• 이용자 반응은 당연히 좋지만은 않음

  • 한 웨이보 이용자는 더우바오 공식 계정에 “왜 에이전트 기능을 없애느냐. 오랫동안 우리의 정서적 버팀목이 되어줬다”고 남김
  • 이 댓글 하나가 규제 당국이 우려하는 지점도 같이 보여줌. 서비스가 편리한 도구를 넘어 정서적 의존 대상이 된다는 얘기니까

---

기술 맥락

• 이번 규제의 대상은 일반적인 업무 자동화 AI가 아니라 인간형 상호작용 AI예요. 같은 AI 에이전트라도 고객 상담이나 정보 검색처럼 목적이 뚜렷한 도구는 제외되고, 성격과 말투를 흉내 내며 관계를 만드는 서비스가 문제로 잡힌 거예요.

• 왜 이 구분이 중요하냐면, 에이전트가 메모리와 계획 기능을 갖기 시작하면 사용자의 감정, 습관, 개인정보가 장기적으로 쌓이거든요. 단발성 챗봇보다 프라이버시와 의존성 리스크가 커질 수밖에 없어요.

• 중국이 식별 코드, 신원 관리, 검색, 상호운용 표준을 같이 꺼낸 것도 그래서예요. 에이전트가 외부 도구를 쓰고 여러 작업을 수행하려면 누가 어떤 권한으로 무엇을 했는지 추적 가능해야 하거든요.

• 제품을 만드는 입장에서는 캐릭터성, 장기 기억, 감정 교류 기능이 단순한 사용자 경험 요소가 아니게 돼요. 이 기능들이 들어가는 순간 안전 정책, 데이터 보존, 삭제, 복원, 미성년자 보호 같은 요구사항이 같이 따라붙는다고 보는 게 맞아요.