정부 AI 윤리지침 초안에 시민사회가 꽂은 핵심 질문, 왜 ‘인권’이 빠졌나

정부 AI 윤리지침 초안, 핵심 논란은 ‘인권’ 빠진 윤리

• 과기정통부와 정보통신정책연구원이 국가 차원의 ‘인공지능 윤리원칙’ 초안을 공개했고, 시민사회가 여기에 정면으로 문제를 제기함

  • 초안은 지난 5월 29일부터 7월 8일까지 의견을 받았고, 올해 1월 제정된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」에 따라 마련되는 기준임
  • 정부 설명상 이 원칙은 AI 개발, 제공, 이용 과정에서 윤리적 쟁점이 생겼을 때 사회 전체가 참고할 공통 판단 기준 역할을 하게 됨

• 그런데 48개 시민사회단체가 모인 ‘인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동’은 초안이 국제 기준과 2020년 윤리기준보다 후퇴했다고 봄

  • 가장 크게 지적한 부분은 초안 어디에도 ‘인권’이라는 표현이 등장하지 않는다는 점임
  • AI가 이미 사회 인프라처럼 쓰이는 상황에서 인권을 빼고 윤리를 말하는 건, 말은 그럴듯한데 정작 피해자를 보호할 기준이 비는 셈이라는 문제 제기임

‘인간의 존엄성’은 있는데 ‘인권’은 없다

• 정부 초안은 3대 가치로 ‘인간의 존엄성’, ‘사회의 공공선’, ‘기술의 신뢰성’을 제시함

  • 이를 실현하기 위한 원칙으로 인간의 자율성, 프라이버시, 공정성과 포용성, 지속가능성, 안전성, 투명성을 들고 있음
  • 얼핏 보면 빠진 게 없어 보이지만, 시민사회는 이 구성이 물리적·경제적 위해에 치우쳐 있다고 지적함

• 시민사회가 보는 핵심 문제는 ‘존엄성’이 너무 좁게 잡혀 있다는 것임

  • 초안의 인간 존엄성 항목은 침해 대상을 생명, 신체, 건강, 재산 중심으로 다루는 흐름임
  • 시민사회는 여기에 세계인권선언, 여성차별철폐협약 같은 국제인권법과 기업의 인권침해 구제 책임을 명시해야 한다고 요구함

• ‘사회의 공공선’도 더 세게 써야 한다는 요구가 나옴

  • 완전자율살상무기 개발처럼 명백히 위험한 AI 사용은 금지해야 한다는 주장임
  • 위헌적인 직접·간접 차별을 낳는 AI 개발과 이용 역시 공공선이라는 말 안에 뭉개지 말고, 금지 대상으로 분명히 박아야 한다는 입장임

투명성에 붙은 ‘영업비밀’ 단서가 꽤 큰 문제

• 시민사회가 특히 예민하게 본 대목은 투명성 원칙임

  • 초안은 AI의 투명성이 프라이버시, 영업비밀 보호 등 다른 정당한 가치와 균형 속에서 구현돼야 한다고 설명함
  • 문제는 이 문장이 실제 현장에서는 “영업비밀이라 설명 못 함”의 근거가 될 수 있다는 점임

• 알고리즘이 복지, 고용, 서비스 배분을 결정하는 순간 투명성은 그냥 개발 문서 공개 문제가 아님

  • 어떤 사람이 불이익을 받았을 때 왜 그런 결론이 나왔는지 알아야 이의제기도 가능함
  • 그런데 영업비밀이 투명성 제한 사유로 강하게 들어가면, 피해자는 결과만 받고 판단 과정은 못 보는 상황에 갇힐 수 있음

편향 점검만으론 부족하고, ‘차별 금지’와 ‘책임성’이 필요하다는 주장

• 초안의 공정성과 포용성 원칙도 너무 소극적이라는 비판이 나옴

  • 데이터와 알고리즘 편향을 지속적으로 점검하고 개선해야 한다는 식의 문구만으로는 부족하다는 것임
  • 시민사회는 성별, 장애, 인종 등에 대한 구조적 차별이 AI 시스템에서 재생산되지 않게 ‘비차별’, 즉 차별 금지를 원칙으로 명시해야 한다고 봄

• 또 하나 빠진 키워드는 ‘책임성’임

  • 2020년 대통령직속 4차산업혁명위원회의 ‘사람이 중심이 되는 인공지능윤리기준’이나 OECD, EU 기준에는 책임성 개념이 중요한 축으로 들어가 있음
  • 시민사회는 부당한 차별과 배제 피해를 구제하려면 AI 사업자에게 적용되는 책임성 원칙, 독립적 점검, 감독 체계가 필요하다고 요구함

장애인권 쪽에서 이미 나온 문제의식과도 맞닿아 있음

• 이번 시민사회 요구는 장애인권단체들이 계속 제기해 온 AI 문제와도 거의 같은 방향임

  • 2025년 12월 ‘장애와 인공지능’ 토론회에서 최한별 한국장애포럼 사무국장은 AI가 소수성을 오답이나 노이즈로 처리하면 기존 구조적 차별이 재생산될 수밖에 없다고 비판함
  • 김영연 장애우권익문제연구소 함께걸음 미디어 센터장은 정신장애인이 대화형 AI에게 상담할 때, 의료화된 관점만으로 답을 주는 AI가 격차를 더 키울 수 있다고 우려함

• 지난 5월 한국장애학회 춘계학술대회에서도 비슷한 사례가 나왔음

  • 해외에서는 AI가 장애인에게 제공될 서비스 총량을 결정하지만, 알고리즘은 영업비밀을 이유로 공개되지 않아 당사자의 구제권이 막히는 문제가 제기됨
  • 장애인 차별이 발생했을 때 책임 소재가 흐려지는 문제도 함께 논의됨

• 결국 이번 논쟁은 “AI 윤리를 좋게 쓰자” 수준이 아니라, AI가 사람의 삶을 판단할 때 필요한 최소한의 안전장치를 어디까지 법과 원칙에 넣을지의 문제임

  • 개발자 입장에서도 남 얘기가 아님. 모델을 붙인 서비스가 채용, 상담, 복지, 금융, 교육처럼 민감한 영역으로 들어가는 순간 윤리 문구는 곧 제품 요구사항이 됨
  • 특히 공공 영역과 B2B 솔루션에서는 투명성, 설명 가능성, 차별 금지, 책임 소재를 나중에 붙이는 게 아니라 설계 단계에서 고려해야 할 가능성이 커짐

---

기술 맥락

• 이번 쟁점에서 중요한 선택은 AI 윤리지침을 추상적 가치 선언으로 둘지, 아니면 권리 구제와 책임 소재까지 담은 운영 기준으로 만들지예요. 왜냐하면 AI가 단순 추천을 넘어 서비스 배분, 상담, 고용 판단에 들어가면 결과를 받은 사람이 이유를 따질 수 있어야 하거든요.

• 투명성과 영업비밀의 충돌도 개발 현장에서 바로 부딪히는 문제예요. 모델 구조나 데이터 전체를 공개하지 않더라도, 어떤 기준으로 판단했는지 설명하고 이의제기할 경로는 필요해요. 그래야 기업의 지식재산 보호와 이용자의 권리 보호를 동시에 다룰 수 있어요.

• 시민사회가 책임성을 요구하는 이유는 장애나 성별 같은 구조적 차별이 데이터에 이미 들어 있을 수 있기 때문이에요. 편향을 “계속 점검하자”는 말만으로는 피해가 발생한 뒤 누가 고치고 보상할지 정해지지 않거든요.

• 개발팀 관점에서는 이 논의가 정책 문서로만 끝나지 않을 가능성이 커요. 민감한 의사결정에 AI를 붙이는 서비스라면 로그, 설명 가능성, 독립 감사, 피해 접수 절차 같은 요구가 제품 설계와 운영 체크리스트로 내려올 수 있어요.