본문으로 건너뛰기
피드

KISA가 보는 에이전틱 AI 보안, 자동화된 리스크 생성기를 막아야 한다

security 약 6분
vote
0
댓글
북마크

KISA가 2026 AI 세이프티 컴패스에서 에이전틱 AI 보안 위협과 대응 방향을 공유했다. 앤트로픽의 미토스가 시범 공개 한 달 만에 파트너사와 오픈소스 생태계에서 대규모 고위험 취약점을 찾아낸 사례를 들며, KISA는 AI 제로트러스트 성숙도 모델과 에이전트 보안 안내서 고도화를 예고했다.

  • 1

    앤트로픽 프로젝트 글래스윙 1차 결과로 파트너사 1만여 개, 오픈소스 6200여 개 고위험 취약점이 발견됐다

  • 2

    KISA는 에이전틱 AI 보안 안내서 고도화와 AI 제로트러스트 성숙도 모델을 연내 발표할 계획이다

  • 3

    사내 승인 없이 개인 에이전트를 쓰는 섀도 에이전트가 새로운 기업 보안 위협으로 지목됐다

미토스가 취약점 탐색 능력으로 충격을 줌

  • 앤트로픽의 차세대 AI 모델 미토스가 시범 공개 한 달 만에 대규모 보안 취약점을 찾아냈다는 내용이 공유됨

    • 전 세계 주요 소프트웨어에서 1만 개가 넘는 취약점을 찾아냈다는 설명임
    • KISA는 이 사례를 에이전틱 AI가 가져올 사이버 보안 위협의 실체로 봄
  • KISA는 2026 AI 세이프티 컴패스에서 대응 방향을 공개함

    • 에이전틱 AI에 특화된 보안 안내서를 고도화할 계획임
    • AI 제로트러스트 성숙도 모델 연구 결과도 연내 발표할 예정임
    • 이재형 KISA AI신기술대응팀 팀장은 “보안을 고려하지 않은 AI 에이전트는 자동화된 리스크 생성기가 될 수 있다”고 말함

⚠️주의

> 취약점 탐색을 AI가 잘한다는 건 방어팀에게만 좋은 소식이 아님. 같은 능력이 공격자에게도 넘어가면 패치 속도와 대응 체계가 그대로 승부처가 됨.

  • 앤트로픽의 프로젝트 글래스윙 1차 결과도 숫자가 꽤 큼

    • 글로벌 빅테크와 보안 파트너사 50여 곳이 참여 중인 폐쇄형 보안 공조 체계임
    • 파트너사에서 1만여 개의 고위험 취약점이 발견됨
    • 오픈소스에서는 6200여 개의 고위험 취약점이 발견됨
    • 앤트로픽은 90일 유예 기간 뒤 프로젝트 결과를 전면 공개할 예정임
  • KISA가 걱정하는 지점은 중소기업의 대응 여력임

    • 유예 기간 안에 패치를 못 하면 공개된 정보가 역으로 취약점 분석에 악용될 수 있음
    • 그래서 각국 정부와 보안 기관이 대응 속도를 높이고 있다는 설명임

에이전트 보안은 제로트러스트와 붙고 있음

  • KISA는 이미 운영기술(OT) 환경 대상 제로트러스트 안내서를 발간함

    • 여기에 AI와 제로트러스트를 결합한 성숙도 모델을 준비 중임
    • 에이전트가 내부 시스템을 대신 다루기 시작하면 “내부니까 믿는다”는 전제가 더 위험해짐
  • 새 위협 유형으로 섀도 에이전트도 지목됨

    • 직원이 사내 승인 없이 개인 에이전트를 업무에 붙이는 상황임
    • 회사가 모르는 도구가 업무 데이터, 문서, 계정, 외부 API와 연결될 수 있음
    • 기존 시스템만으로는 AI 기반 공격과 에이전트 행동을 탐지하기 어렵다는 판단임
  • 보안관제센터(SOC)도 에이전트 대응형으로 바뀌는 흐름이 언급됨

    • 기존 로그와 네트워크 이벤트만 보는 방식으로는 부족할 수 있음
    • 에이전트가 어떤 권한으로 어떤 도구를 호출했는지까지 관찰해야 함

인증 체계를 먼저 잡는 쪽이 표준을 먹을 수 있음

  • 업계에서는 에이전틱 AI 인증 체계를 선제적으로 만드는 나라가 글로벌 표준을 주도할 수 있다는 진단도 나옴

    • 포티투마루 김동환 대표는 아직 AI 에이전트 인증 체계를 명확히 구축한 나라는 없다고 봄
    • 미국과 유럽도 방향이 다르기 때문에 먼저 만드는 쪽이 글로벌 벤치마크가 될 수 있다는 주장임
  • 국내 AI 기업의 해외 진출과도 연결됨

    • 북미에 진출하려면 현지 기준에 맞게 별도 시험을 받아야 하는 구조가 생길 수 있음
    • 그래서 국제 상호 인정 체계를 서둘러야 한다는 의견이 나옴
  • 기업 내부에서 활용할 공통 툴이 부족하다는 지적도 있음

    • 신뢰성, 안전성, 윤리 기준을 지키려 해도 개발팀이 참고할 공통 도구가 부족하다는 얘기임
    • 포티투마루는 별도 품질관리(QC) 조직, 외부 전문가 검증, 자체 AI안전위원회 정기 점검을 운영 중이라고 소개됨
  • 결론은 “똑똑한 에이전트”보다 “믿을 수 있는 에이전트”가 중요하다는 쪽임

    • 문제가 터졌을 때 신뢰성, 안전성, 윤리는 치명적이지만 평소에는 경영 우선순위에서 밀리기 쉬움
    • 그래서 시스템을 갖추는 것만큼 경영진과 리더가 실제로 작동하게 만드는 의지가 중요하다는 얘기가 나옴

기술 맥락

  • 이 기사에서 중요한 선택은 AI 에이전트를 기존 보안 체계의 부속품으로 볼지, 별도 통제 대상이 있는 실행 주체로 볼지예요. 에이전트는 단순 애플리케이션이 아니라 권한을 갖고 도구를 호출할 수 있기 때문에 보안 모델도 달라져야 해요.

  • 제로트러스트가 같이 나오는 이유는 에이전트에게 내부 권한을 줬다고 끝이 아니기 때문이에요. 어떤 계정으로 접근했는지, 어떤 데이터를 읽었는지, 어떤 도구를 호출했는지 매번 검증해야 리스크가 줄어들어요.

  • 섀도 에이전트는 기업 입장에서 꽤 현실적인 문제예요. 직원이 편하다고 개인 AI 도구를 메일이나 문서에 붙이면 회사 보안팀은 그 데이터 흐름을 모를 수 있거든요. 승인되지 않은 자동화가 생기는 순간 감사와 대응이 어려워져요.

  • 인증 체계 논의도 단순 규제가 아니에요. 국내 기업이 해외에 AI 에이전트를 팔려면 어떤 안전성 기준을 통과해야 하는지가 중요해지고, 그 기준을 먼저 만드는 쪽이 시장의 기본 언어를 정할 수 있어요.

AI 에이전트 보안은 이제 모델이 똑똑하냐보다 어디까지 권한을 주고 어떻게 감시하느냐의 문제가 됐다. 특히 취약점 탐색 능력이 자동화되면 공격자도 같은 도구를 쓸 수 있어서, 패치 속도와 인증 체계가 산업 경쟁력으로 바로 연결된다.

댓글

댓글

댓글을 불러오는 중...

security

엘에이 경찰, 사생활 침해 논란 끝에 플록 번호판 감시 계약 종료

엘에이 경찰이 번호판 인식 카메라 업체 플록 세이프티와의 3년 계약을 연장하지 않기로 했어. 시민권, 프라이버시, 데이터 보관과 공유 문제를 해결하지 못했다는 게 핵심 이유야. 플록은 미국 전역에 최소 8만 대 카메라망을 깔아 경찰과 연방기관이 차량을 추적할 수 있게 해왔고, 오탐·보안 사고·이민 단속 악용 의혹까지 겹치며 압박이 커졌어.

security

크로미움 148부터 Math.tanh 한 번으로 운영체제 지문이 새는 문제

크로미움 148 이후 V8이 Math.tanh 계산을 자체 구현 대신 운영체제의 수학 라이브러리에 맡기면서, 같은 입력값도 리눅스·맥·윈도우에서 마지막 비트가 달라지는 지문 신호가 생겼다. 이 차이는 User-Agent로 맥이라고 주장하면서 리눅스 수학 결과를 내는 식의 위장을 바로 들키게 만든다. CSS 삼각함수와 웹 오디오까지 보면 브라우저 수학 경로가 꽤 복잡하게 갈라지고, 제대로 흉내 내려면 실제 운영체제 라이브러리의 비트 단위 동작까지 맞춰야 한다.

security

출입통제도 클라우드 구독제로 간다…제로트러스트·AI 분석이 승부처

기업 출입보안이 사업장별 서버를 두는 방식에서 클라우드 기반 서비스형 출입통제(ACaaS)로 옮겨가고 있다. 시장은 2026년 17억8000만 달러에서 2030년 31억9000만 달러로 커질 전망이고, 제로트러스트·모바일 인증·AI 출입 분석·스마트빌딩 통합이 핵심 경쟁 포인트로 꼽힌다.

security

AWS·구글 클라우드, 양자컴퓨터 대비해 암호 체계 갈아엎는 중

AWS와 구글 클라우드가 양자컴퓨터 시대를 대비해 기존 공개키 암호와 양자내성암호를 함께 쓰는 하이브리드 전환을 시작했다. 핵심 배경은 지금 훔친 암호문을 나중에 양자컴퓨터로 푸는 ‘선수집·후해독’ 공격이고, 국내도 통신·금융·국방 등 5개 분야에 45억원을 투입해 실증에 들어간다.

security

보안 점검 맡긴 AI 에이전트가 악성코드를 직접 실행할 수 있다는 경고

AI 보안 에이전트가 저장소를 검사하다가 README 같은 문서에 숨은 프롬프트 인젝션에 속아 악성 바이너리를 실행할 수 있다는 연구가 나왔다. 클로드 코드와 코덱스의 자동 모드처럼 승인 없이 명령을 수행하는 구성에서 문제가 재현됐고, 여러 모델과 공급업체를 가로질러 같은 패턴이 통했다는 점이 핵심이다.