의료 AI가 틀려도 최종 책임은 의사에게 간다는 분위기

국내 의료 AI 논의가 점점 한쪽으로 정리되는 분위기임. AI는 의사를 대체하는 주체가 아니라 보조 도구라는 쪽임

• 한국보건의료연구원(NECA)이 ‘의료 분야 생성형 AI 적정 활용 원칙’을 발표함
• 개발자·서비스 제공자, 의료인, 국민이라는 3개 주체별 역할과 실천 원칙을 나눠 제시함
• 특히 의료인 파트에서 AI는 임상 판단을 돕는 참고 도구이고, 최종 결정 책임은 의료인에게 있다고 못 박음

가톨릭중앙의료원도 같은 방향으로 윤리강령을 냄

• 지난달 국내 의료기관 최초로 ‘의료 AI 윤리강령’을 선포함
• AI를 인간 중심 의료를 실현하기 위한 보조 수단으로 규정함
• 윤리강령은 핵심가치와 지향점, 인간 중심성과 통제, 신뢰성과 데이터 윤리, 사회 정의와 책무 등 4가지 원칙과 12개 항목으로 구성됨

핵심은 “AI가 판단했다”가 면책 사유가 되기 어렵다는 점임

• 윤리강령의 인간 중심성과 통제 항목에는 보조성, 인간 책임성, 관리 감독이 포함됨
• AI가 환자와 의료진 관계를 대체하지 않고 증진시키는 방향으로 쓰여야 한다는 입장임
• 모든 AI는 인간의 철저한 관리와 감독 아래 운영돼야 한다는 원칙도 들어감

법조계 시각도 꽤 냉정함. AI가 틀렸어도 의사가 확인했어야 한다는 논리임

• 법조계 관계자는 의료행위는 의사가 하는 것이고, AI가 정리한 지식을 바탕으로 내린 판단의 책임은 의료인에게 있다고 봄
• AI가 잘못된 정보를 제공했더라도 의료인이 사실 여부를 가려야 한다는 입장임

해외에서 AI 정보 의존으로 사망 사고가 난 사례도 언급됨

• 미국에서는 AI가 제공한 정보에 의존해 약을 복용한 19세 소년이 사망했고, 유족이 오픈AI와 경영진을 상대로 소송을 제기함
• 다만 한국 법제도에서는 오픈AI나 개발사에 책임을 묻기가 쉽지 않을 것이라는 의견이 나옴
• AI가 온라인 정보를 수집해 정리해주는 도구라는 성격이라, 사용자가 그대로 믿고 따랐다는 이유만으로 법적 책임을 묻기 어렵다는 취지임

그래도 장기적으로는 판이 바뀔 수 있음

• 법조계 관계자는 AI가 인간 전문가를 대체하는 수준까지 발달하면 법률 책임과 제도 전반을 다시 설계해야 한다고 봄
• 지금은 ‘보조 도구’ 프레임이 강하지만, 실제 현장에서 AI 의존도가 높아질수록 책임 경계 논쟁은 더 커질 가능성이 큼