식약처, 생성형 AI 의료기기를 ‘허가 후 관리’까지 보는 규제로 확장

생성형 AI 의료기기는 기존 의료기기처럼 다루기 어렵다

• 식약처가 생성형 AI 의료기기 규제를 ‘허가’ 중심에서 ‘거버넌스’ 중심으로 넓히고 있음

  • 예전 AI 의료기기는 주로 의료영상 판독이나 진단보조처럼 비교적 특정 기능에 집중됐음
  • 지금은 대규모 언어 모델(LLM)이 의료진 의사결정을 돕고 새로운 정보를 생성하는 단계로 넘어가는 중
  • 그래서 기존 의료기기 규제 체계만으로는 안전성과 신뢰성을 충분히 담보하기 어렵다는 문제의식이 나옴

• 생성형 AI 기반 디지털의료기기는 위험 포인트가 다름

  • 특정 의료목적에 묶인 기존 기계학습 제품과 달리 방대한 데이터를 바탕으로 새 출력을 생성함
  • 같은 입력에도 맥락에 따라 결과가 달라질 수 있음
  • 관리 대상도 학습데이터 오류·편향, 중요 정보 누락, 환각, 결과 일관성 같은 쪽으로 넓어짐

식약처가 보려는 건 출시 전 성능만이 아님

• 허가·심사 단계에서는 작용원리, 분석적 성능, 임상적 유효성을 본다고 밝힘

  • 알고리즘 결과가 실제 의학적 의미를 갖는지 확인함
  • 입력값에서 출력값으로 이어지는 작용원리가 확립된 의학적 근거에 맞는지도 심사함
  • 데이터셋 품질과 편향이 통제된 상태에서 목표 성능에 도달했는지 검증 자료를 요구함

• 실제 병원 환경에서 쓸 수 있는지도 중요 평가 대상임

  • 통제된 실험실 성능만으로는 부족함
  • 다양한 임상 환경에서 환자에게 실질적으로 유익한 결과를 주는지 봐야 함
  • 의료 AI가 논문 벤치마크에서 좋아 보여도 현장 워크플로에 못 들어가면 의미가 없다는 얘기

• 식약처는 지난해 1월 ‘생성형 인공지능 의료기기 허가·심사 가이드라인’을 이미 마련함

  • 현재는 대규모 언어 모델에 특화된 별도 허가·심사 가이드라인도 준비 중
  • 생성형 AI 의료기기를 기존 소프트웨어 의료기기 틀 안에 억지로 끼워 넣지 않겠다는 방향으로 읽힘

핵심은 ‘허가 후에도 계속 관리’임

• AI 디지털의료기기는 허가받았다고 끝나는 제품이 아님

  • 허가 이후에도 재학습, 성능 변경, 보안 업데이트가 계속 발생할 수 있음
  • 오류 수정, 보안 패치, 학습데이터 보완, 성능 개선이 반복됨
  • 그래서 사후관리 체계가 제품 안전성과 직결됨

• 변경관리도 중요도에 따라 나눠서 보겠다는 구조임

  • 사용목적, 핵심 성능, 분석 알고리즘 같은 중요한 변경은 변경허가 대상
  • 그 외 변경은 기업이 AI·소프트웨어 특화 품질관리 기준에 따라 내부 품질관리체계에서 수행
  • 기업은 변경 문서번호 등을 식약처에 제출해야 함

• 사용자에게 공개해야 할 정보도 꽤 구체적임

  • 인공지능 모델 훈련방법
  • 학습데이터 정보
  • 성능의 범위와 한계
  • 클라우드 정보
  • 즉, 의료진과 사용자가 “이 AI가 뭘 할 수 있고 어디서 조심해야 하는지” 알 수 있어야 한다는 방향

숫자로 보면 시장은 이미 커지는 중

• AI 기반 의료기기 허가·인증 건수는 빠르게 늘고 있음

  • 2021년 37건
  • 2022년 47건
  • 2023년 64건
  • 2024년 108건
  • 2025년 153건

• 2026년도 초반부터 증가세가 이어짐

  • 5월까지 이미 75건이 허가·인증됨
  • 제조 제품은 2021년 34건에서 2025년 119건으로 증가
  • 수입 제품도 같은 기간 3건에서 34건으로 늘어남
  • 2026년 5월까지는 제조 30건, 수입 45건으로 수입 비중도 눈에 띔

글로벌 규제 경쟁도 같이 붙었다

• 식약처는 국제 규제 흐름도 의식하고 있음

  • 유럽은 인공지능법을 시행 중
  • 미국은 AI 관련 가이드라인을 계속 제·개정 중
  • 영국은 AI 규제특례로 새 기술 실증과 평가를 지원하는 방향

• 한국은 국제의료기기규제당국자포럼의 소프트웨어·AI 가이드라인을 반영하고 있다고 설명함

  • 국내 인허가와 품질관리 적합성 평가에 국제 가이드라인을 적용하는 구조
  • 국내 기업이 한국 허가 경험을 통해 해외 규제 대응 역량도 쌓게 하겠다는 의도
  • 규제 경험 자체를 수출 준비 과정으로 보겠다는 해석도 가능함

• 앞으로는 기업 중심 평가체계도 등장할 예정임

  • 식약처는 ‘우수관리체계 규제 특례 제도’를 도입함
  • 정부가 의료 AI 거버넌스 역량이 우수한 기업을 지정하는 방식
  • 기존 규제로 평가하기 어려운 AI 디지털의료기기소프트웨어에 실사용 특례를 허용하는 내용
  • 영국의 AI 에어록 같은 규제 샌드박스와 유사한 제도라고 설명됨

• 결국 AI 의료기기 경쟁은 모델 성능만의 싸움이 아님

  • 학습데이터를 어떻게 관리하는지
  • 재학습과 업데이트를 어떻게 통제하는지
  • 보안과 비식별화를 어떻게 유지하는지
  • 환각과 편향을 어떻게 설명하고 줄이는지
  • 이런 운영 역량이 의료 AI 기업의 경쟁력이 되는 쪽으로 가고 있음

---

기술 맥락

• 이번 규제 변화의 핵심은 의료 AI를 완성품이 아니라 계속 변하는 소프트웨어로 본다는 점이에요. 기존 의료기기는 한 번 허가받은 뒤 변경 범위가 제한적이었지만, 생성형 AI는 재학습과 성능 개선이 반복되거든요.

• 식약처가 학습데이터, 환각, 결과 일관성을 보는 이유는 모델 출력이 항상 고정돼 있지 않기 때문이에요. 같은 입력이라도 맥락에 따라 답이 달라질 수 있고, 의료 현장에서는 그 차이가 의사결정에 영향을 줄 수 있어요.

• 기업 입장에서는 허가 문서만 잘 만드는 것으로 부족해져요. 데이터 품질관리, 비식별화, 성능 모니터링, 보안 패치, 변경 이력 관리까지 운영 체계로 증명해야 하거든요.

• 규제 특례 제도는 신기술을 무조건 막기보다, 관리 역량이 있는 기업에게 제한된 실사용 기회를 주려는 선택이에요. 생성형 AI나 피지컬 AI처럼 기존 기준으로 평가하기 어려운 제품이 늘어나면 이런 샌드박스형 접근이 더 중요해질 수 있어요.

• 개발팀 관점에서는 모델 개발과 규제 대응이 분리되지 않아요. 모델 카드, 데이터셋 문서화, 감사 로그, 성능 드리프트 모니터링 같은 기능이 제품의 부가 기능이 아니라 허가와 운영의 기본 요건이 될 가능성이 커요.