KISA가 보는 에이전틱 AI 보안, 자동화된 리스크 생성기를 막아야 한다

미토스가 취약점 탐색 능력으로 충격을 줌

• 앤트로픽의 차세대 AI 모델 미토스가 시범 공개 한 달 만에 대규모 보안 취약점을 찾아냈다는 내용이 공유됨

  • 전 세계 주요 소프트웨어에서 1만 개가 넘는 취약점을 찾아냈다는 설명임
  • KISA는 이 사례를 에이전틱 AI가 가져올 사이버 보안 위협의 실체로 봄

• KISA는 2026 AI 세이프티 컴패스에서 대응 방향을 공개함

  • 에이전틱 AI에 특화된 보안 안내서를 고도화할 계획임
  • AI 제로트러스트 성숙도 모델 연구 결과도 연내 발표할 예정임
  • 이재형 KISA AI신기술대응팀 팀장은 “보안을 고려하지 않은 AI 에이전트는 자동화된 리스크 생성기가 될 수 있다”고 말함

• 앤트로픽의 프로젝트 글래스윙 1차 결과도 숫자가 꽤 큼

  • 글로벌 빅테크와 보안 파트너사 50여 곳이 참여 중인 폐쇄형 보안 공조 체계임
  • 파트너사에서 1만여 개의 고위험 취약점이 발견됨
  • 오픈소스에서는 6200여 개의 고위험 취약점이 발견됨
  • 앤트로픽은 90일 유예 기간 뒤 프로젝트 결과를 전면 공개할 예정임

• KISA가 걱정하는 지점은 중소기업의 대응 여력임

  • 유예 기간 안에 패치를 못 하면 공개된 정보가 역으로 취약점 분석에 악용될 수 있음
  • 그래서 각국 정부와 보안 기관이 대응 속도를 높이고 있다는 설명임

에이전트 보안은 제로트러스트와 붙고 있음

• KISA는 이미 운영기술(OT) 환경 대상 제로트러스트 안내서를 발간함

  • 여기에 AI와 제로트러스트를 결합한 성숙도 모델을 준비 중임
  • 에이전트가 내부 시스템을 대신 다루기 시작하면 “내부니까 믿는다”는 전제가 더 위험해짐

• 새 위협 유형으로 섀도 에이전트도 지목됨

  • 직원이 사내 승인 없이 개인 에이전트를 업무에 붙이는 상황임
  • 회사가 모르는 도구가 업무 데이터, 문서, 계정, 외부 API와 연결될 수 있음
  • 기존 시스템만으로는 AI 기반 공격과 에이전트 행동을 탐지하기 어렵다는 판단임

• 보안관제센터(SOC)도 에이전트 대응형으로 바뀌는 흐름이 언급됨

  • 기존 로그와 네트워크 이벤트만 보는 방식으로는 부족할 수 있음
  • 에이전트가 어떤 권한으로 어떤 도구를 호출했는지까지 관찰해야 함

인증 체계를 먼저 잡는 쪽이 표준을 먹을 수 있음

• 업계에서는 에이전틱 AI 인증 체계를 선제적으로 만드는 나라가 글로벌 표준을 주도할 수 있다는 진단도 나옴

  • 포티투마루 김동환 대표는 아직 AI 에이전트 인증 체계를 명확히 구축한 나라는 없다고 봄
  • 미국과 유럽도 방향이 다르기 때문에 먼저 만드는 쪽이 글로벌 벤치마크가 될 수 있다는 주장임

• 국내 AI 기업의 해외 진출과도 연결됨

  • 북미에 진출하려면 현지 기준에 맞게 별도 시험을 받아야 하는 구조가 생길 수 있음
  • 그래서 국제 상호 인정 체계를 서둘러야 한다는 의견이 나옴

• 기업 내부에서 활용할 공통 툴이 부족하다는 지적도 있음

  • 신뢰성, 안전성, 윤리 기준을 지키려 해도 개발팀이 참고할 공통 도구가 부족하다는 얘기임
  • 포티투마루는 별도 품질관리(QC) 조직, 외부 전문가 검증, 자체 AI안전위원회 정기 점검을 운영 중이라고 소개됨

• 결론은 “똑똑한 에이전트”보다 “믿을 수 있는 에이전트”가 중요하다는 쪽임

  • 문제가 터졌을 때 신뢰성, 안전성, 윤리는 치명적이지만 평소에는 경영 우선순위에서 밀리기 쉬움
  • 그래서 시스템을 갖추는 것만큼 경영진과 리더가 실제로 작동하게 만드는 의지가 중요하다는 얘기가 나옴

---

기술 맥락

• 이 기사에서 중요한 선택은 AI 에이전트를 기존 보안 체계의 부속품으로 볼지, 별도 통제 대상이 있는 실행 주체로 볼지예요. 에이전트는 단순 애플리케이션이 아니라 권한을 갖고 도구를 호출할 수 있기 때문에 보안 모델도 달라져야 해요.

• 제로트러스트가 같이 나오는 이유는 에이전트에게 내부 권한을 줬다고 끝이 아니기 때문이에요. 어떤 계정으로 접근했는지, 어떤 데이터를 읽었는지, 어떤 도구를 호출했는지 매번 검증해야 리스크가 줄어들어요.

• 섀도 에이전트는 기업 입장에서 꽤 현실적인 문제예요. 직원이 편하다고 개인 AI 도구를 메일이나 문서에 붙이면 회사 보안팀은 그 데이터 흐름을 모를 수 있거든요. 승인되지 않은 자동화가 생기는 순간 감사와 대응이 어려워져요.

• 인증 체계 논의도 단순 규제가 아니에요. 국내 기업이 해외에 AI 에이전트를 팔려면 어떤 안전성 기준을 통과해야 하는지가 중요해지고, 그 기준을 먼저 만드는 쪽이 시장의 기본 언어를 정할 수 있어요.