본문으로 건너뛰기
J
피드

의사가 쓴 AI 프롬프트에 환자 비하 문구가 그대로 출력됐다

general 약 4분
tags
#ai#prompt#privacy#healthcare#ethics
vote
0
댓글
북마크

한 통증의학과 의원에서 의사가 환자를 비하하는 표현을 AI 프롬프트에 적었고, 그 문구가 치료 안내문 상단에 그대로 출력돼 환자에게 전달됐다는 사연이 확산됐다. 사건은 AI 도구를 업무에 쓸 때 내부 메모, 프롬프트, 출력물이 어디까지 노출될 수 있는지 보여주는 불편한 사례다.

  • 1

    환자에게 전달된 문서 상단에 인격 모독성 AI 프롬프트가 그대로 남아 있었음

  • 2

    해당 문구에는 환자의 지능과 직업을 비하하는 표현이 포함됨

  • 3

    가족은 진료 과정에서 의사의 폭언성 발언도 반복됐다고 주장

  • 4

    AI 도구 사용 시 프롬프트가 내부 작업물이 아니라 고객에게 노출될 수 있는 산출물이라는 점이 드러남

  • 한 의원에서 의사가 쓴 AI 프롬프트가 환자에게 전달된 문서에 그대로 남아 논란이 됨

    • 환자 가족 A씨가 SNS에 올린 사진에서 문서 상단에 AI에게 지시한 문구가 보였음
    • 문제는 그 문구가 단순한 업무 메모가 아니라 환자를 인격적으로 깎아내리는 표현이었다는 점임

  • 프롬프트에는 환자를 두고 “지능이 그렇게 좋아 보이지는 않은 막일 하시는 분”이라는 식의 표현이 들어가 있었음

    • 의도는 환자가 이해하기 쉬운 설명 용지를 만들라는 것이었지만, 굳이 비하 표현을 넣을 이유가 전혀 없음
    • 심지어 가족에 따르면 해당 환자는 임대 사업자였고, 의사가 표현한 ‘막일’과도 관련이 없었음

⚠️주의

> 프롬프트는 개발자 콘솔 안에만 남는 메모가 아님. 출력물, 로그, 감사 기록, 고객 문서로 흘러나올 수 있는 텍스트라서 그대로 책임 소재가 됨.

  • 가족은 진료 과정에서도 부적절한 발언이 반복됐다고 주장함

    • 첫 진료 때부터 “아픈데 왜 바로 병원에 오지 않았냐”고 타박했다고 함
    • “북한 사람이냐”, “가족이 없냐” 같은 발언도 있었다고 전해짐
    • 다른 병원에 다녔다고 하자 “거긴 열심히 하는 의사가 아니다”, “나처럼 열심히 하는 의사 없다”는 식으로 타 의원을 깎아내렸다는 주장도 나옴

  • 논란이 된 문서는 6월 18일 진료 때 환자에게 전달된 것으로 알려짐

    • 데일리메디 취재 결과, 해당 의원은 경기도 남양주 소재 의료기관으로 확인됨
    • 의사 2명이 공동대표로 운영하는 곳이고, 사연 속 당사자는 마취통증의학과 전문의로 전해짐

  • 이후 의원은 직원을 통해 환자에게 한 차례 사과 의사를 전하고 A씨 연락처를 요구했다고 함

    • 환자가 “생각해 보겠다”고 한 뒤 추가 연락이나 사과는 없었던 것으로 전해짐
    • 온라인에서는 대표원장의 직접 사과와 대한의사협회 징계 필요성을 언급하는 반응이 이어짐

  • 개발자 관점에서 보면 이건 의료 윤리 이슈이면서 AI 제품 운영 이슈이기도 함

    • AI를 쓰는 사람이 어떤 편견을 프롬프트에 넣는지, 그 프롬프트가 어디까지 저장·노출되는지 관리가 필요함
    • 특히 의료, 금융, 교육처럼 사람을 평가하거나 설명하는 영역에서는 프롬프트 검수와 출력물 검수가 분리되면 사고가 나기 쉬움

AI를 업무에 붙일 때 가장 먼저 터지는 문제는 거창한 모델 성능이 아니라 사람의 편견과 운영 실수일 때가 많음. 프롬프트가 로그이자 기록이자 고객에게 보일 수 있는 텍스트라는 감각이 없으면 바로 사고로 이어짐.

prev

이전 기사 (P)

next

다음 기사 (N)

댓글

댓글

댓글을 불러오는 중...

관련 기사

general

FDA, CGT 개발에서 ‘한 번 만든 데이터 재활용’ 길 열었다

FDA가 세포·유전자치료제(CGT) 개발에서 기존 CMC, 비임상, 안전성 데이터를 새 제품 개발에 재활용할 수 있게 하는 초안 가이드라인을 공개했다. 같은 플랫폼을 쓰는 치료제마다 데이터를 처음부터 다시 쌓던 방식에서, 플랫폼 단위 데이터 패키지를 여러 IND에 활용하는 방향으로 규제 패러다임이 바뀌는 흐름이다.

general

로그는 생각보다 많은 수학 개념의 공통 언어일지도 모름

필자는 로그를 단순한 함수가 아니라 곱셈적 표현을 덧셈적 표현으로 바꾸는 더 일반적인 구조로 바라봐. 무기저 로그, 벡터, 차원, p-adic valuation, 미분, 함수 표현까지 여러 수학 개념이 로그와 닮아 있다는 긴 수학 에세이임.

general

클라우드 업계 한꺼번에 움직였다: AWS 컨텍스트, 삼성 챗GPT 도입, AI 도시까지

클라우드 업계에서 HNIX의 클라우드 전환 협약, AWS의 AI 에이전트용 컨텍스트 서비스, EDB·비투엔·오두의 오픈소스 전환 협약, 오케스트로의 AI 시범도시 사업, 오픈AI의 삼성전자 공급 계약 등이 한꺼번에 나왔다. 기업용 AI와 클라우드 전환이 이제 실험 단계를 넘어 실제 인프라, 업무 시스템, 도시 운영으로 내려오고 있다는 흐름이 보인다.

general

전주, ‘피지컬 AI 특별도시’ 구상으로 하정우 전 수석 특강 연다

전주시장직 인수위원회가 하정우 전 청와대 AI미래기획수석을 초청해 인공지능 특강을 연다. 조지훈 전주시장 당선인의 핵심 공약인 ‘피지컬 AI 특별도시’ 구현을 위해 시민, 행정, 산업, 복지 전반에 AI를 접목하는 구상을 공유하는 자리다.

general

AI 버블론에 대한 프랭클린템플턴 시장전략가의 답은 “아직 아니다”

프랭클린템플턴의 스티븐 도버는 지금 증시를 단순한 AI 버블로 보기 어렵다고 봤다. 핵심은 AI 기술의 실체가 있느냐뿐 아니라, 최근 20년간 줄어들었던 주식 공급이 AI 기업들의 자금 조달로 다시 늘어나고 있다는 시장 구조 변화다.