--- title: "KISA가 보는 에이전틱 AI 보안, 자동화된 리스크 생성기를 막아야 한다" published: 2026-05-26T06:05:03.415Z canonical: https://jeff.news/article/3266 --- # KISA가 보는 에이전틱 AI 보안, 자동화된 리스크 생성기를 막아야 한다 KISA가 2026 AI 세이프티 컴패스에서 에이전틱 AI 보안 위협과 대응 방향을 공유했다. 앤트로픽의 미토스가 시범 공개 한 달 만에 파트너사와 오픈소스 생태계에서 대규모 고위험 취약점을 찾아낸 사례를 들며, KISA는 AI 제로트러스트 성숙도 모델과 에이전트 보안 안내서 고도화를 예고했다. ## 미토스가 취약점 탐색 능력으로 충격을 줌 - 앤트로픽의 차세대 AI 모델 미토스가 시범 공개 한 달 만에 대규모 보안 취약점을 찾아냈다는 내용이 공유됨 - 전 세계 주요 소프트웨어에서 1만 개가 넘는 취약점을 찾아냈다는 설명임 - KISA는 이 사례를 에이전틱 AI가 가져올 사이버 보안 위협의 실체로 봄 - KISA는 2026 AI 세이프티 컴패스에서 대응 방향을 공개함 - 에이전틱 AI에 특화된 보안 안내서를 고도화할 계획임 - AI 제로트러스트 성숙도 모델 연구 결과도 연내 발표할 예정임 - 이재형 KISA AI신기술대응팀 팀장은 “보안을 고려하지 않은 AI 에이전트는 자동화된 리스크 생성기가 될 수 있다”고 말함 > [!WARNING] > 취약점 탐색을 AI가 잘한다는 건 방어팀에게만 좋은 소식이 아님. 같은 능력이 공격자에게도 넘어가면 패치 속도와 대응 체계가 그대로 승부처가 됨. - 앤트로픽의 프로젝트 글래스윙 1차 결과도 숫자가 꽤 큼 - 글로벌 빅테크와 보안 파트너사 50여 곳이 참여 중인 폐쇄형 보안 공조 체계임 - 파트너사에서 1만여 개의 고위험 취약점이 발견됨 - 오픈소스에서는 6200여 개의 고위험 취약점이 발견됨 - 앤트로픽은 90일 유예 기간 뒤 프로젝트 결과를 전면 공개할 예정임 - KISA가 걱정하는 지점은 중소기업의 대응 여력임 - 유예 기간 안에 패치를 못 하면 공개된 정보가 역으로 취약점 분석에 악용될 수 있음 - 그래서 각국 정부와 보안 기관이 대응 속도를 높이고 있다는 설명임 ## 에이전트 보안은 제로트러스트와 붙고 있음 - KISA는 이미 운영기술(OT) 환경 대상 제로트러스트 안내서를 발간함 - 여기에 AI와 제로트러스트를 결합한 성숙도 모델을 준비 중임 - 에이전트가 내부 시스템을 대신 다루기 시작하면 “내부니까 믿는다”는 전제가 더 위험해짐 - 새 위협 유형으로 섀도 에이전트도 지목됨 - 직원이 사내 승인 없이 개인 에이전트를 업무에 붙이는 상황임 - 회사가 모르는 도구가 업무 데이터, 문서, 계정, 외부 API와 연결될 수 있음 - 기존 시스템만으로는 AI 기반 공격과 에이전트 행동을 탐지하기 어렵다는 판단임 - 보안관제센터(SOC)도 에이전트 대응형으로 바뀌는 흐름이 언급됨 - 기존 로그와 네트워크 이벤트만 보는 방식으로는 부족할 수 있음 - 에이전트가 어떤 권한으로 어떤 도구를 호출했는지까지 관찰해야 함 ## 인증 체계를 먼저 잡는 쪽이 표준을 먹을 수 있음 - 업계에서는 에이전틱 AI 인증 체계를 선제적으로 만드는 나라가 글로벌 표준을 주도할 수 있다는 진단도 나옴 - 포티투마루 김동환 대표는 아직 AI 에이전트 인증 체계를 명확히 구축한 나라는 없다고 봄 - 미국과 유럽도 방향이 다르기 때문에 먼저 만드는 쪽이 글로벌 벤치마크가 될 수 있다는 주장임 - 국내 AI 기업의 해외 진출과도 연결됨 - 북미에 진출하려면 현지 기준에 맞게 별도 시험을 받아야 하는 구조가 생길 수 있음 - 그래서 국제 상호 인정 체계를 서둘러야 한다는 의견이 나옴 - 기업 내부에서 활용할 공통 툴이 부족하다는 지적도 있음 - 신뢰성, 안전성, 윤리 기준을 지키려 해도 개발팀이 참고할 공통 도구가 부족하다는 얘기임 - 포티투마루는 별도 품질관리(QC) 조직, 외부 전문가 검증, 자체 AI안전위원회 정기 점검을 운영 중이라고 소개됨 - 결론은 “똑똑한 에이전트”보다 “믿을 수 있는 에이전트”가 중요하다는 쪽임 - 문제가 터졌을 때 신뢰성, 안전성, 윤리는 치명적이지만 평소에는 경영 우선순위에서 밀리기 쉬움 - 그래서 시스템을 갖추는 것만큼 경영진과 리더가 실제로 작동하게 만드는 의지가 중요하다는 얘기가 나옴 --- ## 기술 맥락 - 이 기사에서 중요한 선택은 AI 에이전트를 기존 보안 체계의 부속품으로 볼지, 별도 통제 대상이 있는 실행 주체로 볼지예요. 에이전트는 단순 애플리케이션이 아니라 권한을 갖고 도구를 호출할 수 있기 때문에 보안 모델도 달라져야 해요. - 제로트러스트가 같이 나오는 이유는 에이전트에게 내부 권한을 줬다고 끝이 아니기 때문이에요. 어떤 계정으로 접근했는지, 어떤 데이터를 읽었는지, 어떤 도구를 호출했는지 매번 검증해야 리스크가 줄어들어요. - 섀도 에이전트는 기업 입장에서 꽤 현실적인 문제예요. 직원이 편하다고 개인 AI 도구를 메일이나 문서에 붙이면 회사 보안팀은 그 데이터 흐름을 모를 수 있거든요. 승인되지 않은 자동화가 생기는 순간 감사와 대응이 어려워져요. - 인증 체계 논의도 단순 규제가 아니에요. 국내 기업이 해외에 AI 에이전트를 팔려면 어떤 안전성 기준을 통과해야 하는지가 중요해지고, 그 기준을 먼저 만드는 쪽이 시장의 기본 언어를 정할 수 있어요. ## 핵심 포인트 - 앤트로픽 프로젝트 글래스윙 1차 결과로 파트너사 1만여 개, 오픈소스 6200여 개 고위험 취약점이 발견됐다 - KISA는 에이전틱 AI 보안 안내서 고도화와 AI 제로트러스트 성숙도 모델을 연내 발표할 계획이다 - 사내 승인 없이 개인 에이전트를 쓰는 섀도 에이전트가 새로운 기업 보안 위협으로 지목됐다 ## 인사이트 AI 에이전트 보안은 이제 모델이 똑똑하냐보다 어디까지 권한을 주고 어떻게 감시하느냐의 문제가 됐다. 특히 취약점 탐색 능력이 자동화되면 공격자도 같은 도구를 쓸 수 있어서, 패치 속도와 인증 체계가 산업 경쟁력으로 바로 연결된다.