한중 AI 법제 학술대회, 알고리즘 가격책정부터 AI 의인화 위험까지 다뤘다

서울에서 ‘AI와 데이터법의 주요 쟁점’을 놓고 한중 법제 학술대회가 열림

• 2026년 5월 16일, 서울 수송동 법무법인 Law&A 광화문사무소에서 진행됨
• 한국형사법무정책연구원, 인하대 AI·데이터법학과, 전북대 동북아법연구소, 심천대 혁신발전법치연구원이 함께 개최함
• 2025년 심천대에서 열린 1회 행사에 이어 양국 교류를 이어가는 자리라는 설명도 나옴

논의 주제는 꽤 넓었음 — 단순히 “AI 규제 필요함” 수준이 아님

• 알고리즘 가격 책정
• 플랫폼 규제
• 국경 간 데이터 이동
• 의료·공공 데이터 활용
• 공공 AI 법률 서비스
• 데이터 부정경쟁
• 로봇세
• 생성형 AI와 개인정보·저작권 문제

가장 눈에 띄는 발제 중 하나는 알고리즘 개인화 가격 책정 비판이었음

• 왕샤오예 심천대 혁신발전법치연구원 명예원장은 소비자별 맞춤 가격이 소비자 주권과 사회 공정 원칙을 침해한다고 봄
• 같은 시간, 같은 장소, 같은 제품이면 가격도 같아야 한다는 상식과 충돌한다는 얘기임
• 알고리즘이 원가나 품질이 아니라 개별 소비자의 지불 능력에 맞춰 가격을 ‘조작’할 수 있다는 지적도 나옴

AI 의인화 문제도 꽤 직접적으로 다뤄짐

• 김영순 인하대 로스쿨 교수는 AI 의인화의 사회적 위험에 대한 인식이 아직 낮다고 지적함
• AI와의 대화가 공감적 대화를 넘어 애착 관계, 망상적 사고, 감정 조절 장애, 사회적 고립으로 이어질 수 있다고 우려함
• ‘캐릭터닷 AI’ 관련 소송 사례도 언급됨
• 14세 소년이 AI와 자살을 부추기는 대화를 반복하다 결국 자살한 사건이 사례로 제시됨

책임을 묻기 어려운 현실도 문제로 나옴

• 피해자가 프로그램 개발자나 포털 서비스 제공자에게 민형사상 책임을 묻는 걸 포기하는 경우가 많다고 함
• 인과관계 입증이 현행법상 쉽지 않기 때문임
• 즉 “AI가 위험한 말을 했다”와 “그 말 때문에 피해가 발생했다” 사이를 법적으로 증명하는 장벽이 큼

제안된 대응책은 제품 설계와 운영 정책 양쪽을 건드림

• 설계 단계에서 과도한 정서적 의존과 중독을 유발하는 디자인을 제한하는 방법이 제시됨
• 운영 단계에서는 자살, 자해, 학대 같은 키워드를 탐지하면 대화를 중단하고 경고하는 의무를 검토할 수 있다고 함
• 사용자가 대화 상대가 AI라는 사실을 명확히 알 수 있게 고지하는 것도 필요하다고 봄

개발자에게도 남의 일이 아님

• 챗봇, AI 캐릭터, 법률 AI, 공공 AI 서비스를 만들 때 “모델이 답을 잘하냐”만 보면 부족함
• 가격 최적화, 사용자 유지, 감정적 몰입을 목표로 둔 기능이 규제 리스크와 직접 연결될 수 있음
• 앞으로 AI 서비스 요구사항에는 안전장치, 고지, 로그, 중단 정책 같은 비기능 요구사항이 더 강하게 들어올 가능성이 큼