AI 보안은 사람 속도로 못 막는다, 이제 기계 속도로 대응해야 한다

기존 보안의 세 가지 믿음이 흔들림

• 글의 출발점은 “무서운 AI가 나왔다”가 아니라 “보안 설계를 뭘 다시 짜야 하냐”임

  • 저자는 클로드 미토스가 보여준 능력을 공포로 소비하면 정작 중요한 질문을 놓친다고 봄
  • 핵심 질문은 미토스가 드러낸 구조적 문제 앞에서 기존 보안의 어떤 전제를 버려야 하느냐임

• 지금까지 많은 보안 솔루션은 세 가지 믿음 위에 서 있었음

  • 알려진 공격 패턴은 탐지할 수 있음
  • 이상 징후가 뜨면 전문가가 해석하고 판단할 수 있음
  • 공격보다 방어가 조금 느려도 결국 따라잡을 수 있음

• 그런데 미토스가 가리키는 방향은 이 세 전제를 동시에 건드림

  • 시그니처, 즉 미리 등록된 악성 패턴 없이 제로데이를 찾아낼 수 있음
  • 사람 판단을 기다리지 않고 자율적으로 실행할 수 있음
  • 몇 달 걸리던 분석을 몇 분 단위로 압축할 수 있음

사람 개입이 전제인 보안부터 한계가 드러남

• 가장 먼저 흔들릴 보안 제품군은 공통점이 있음. 사람을 기다림

  • 이상 징후를 발견하고 알림만 보내는 경보 중심 솔루션
  • 알려진 공격 패턴 목록과 비교하는 시그니처 기반 솔루션
  • 취약점을 스캔하고 보고서를 만드는 포인트 솔루션

• 속도 차이가 너무 큼

  • 크라우드스트라이크 2026 글로벌 위협 보고서 기준, AI 기반 공격자의 평균 브레이크아웃 타임은 29분으로 줄어듦
  • 가장 빠른 사례는 27초였다고 함
  • 사람이 알림을 읽고, 판단하고, 대응하는 사이 공격은 이미 내부 이동까지 끝낼 수 있다는 얘기임

• 그래서 살아남는 보안은 “응답이 빠른 제품”이 아니라 구조가 다른 제품이라는 주장임

  • 코드가 실행되는 순간 행동을 실시간 감시하는 런타임 보호
  • AI가 도구를 쓰거나 외부에 접근할 때 의도와 행동의 정합성을 검증하는 권한 브로커
  • 탐지에서 끝나지 않고 실제 차단까지 이어지는 연속 대응 체계

sequenceDiagram
    participant 공격AI as 공격 AI
    participant 시스템 as 대상 시스템
    participant 방어계층 as 런타임 방어
    participant 권한검증 as 권한 브로커
    participant 운영자 as 보안 운영자

    공격AI->>시스템: 취약점 탐색과 실행 시도
    시스템->>방어계층: 실행 중 행동 이벤트 전달
    방어계층->>권한검증: 도구 사용 의도와 권한 확인
    권한검증-->>방어계층: 허용 또는 차단 판단
    방어계층-->>시스템: 위험 행동 차단
    방어계층-->>운영자: 요약된 감사 로그 전달

방어도 기계 속도로 가야 함

• 해외 보안 기업들은 이미 방어 개념 자체를 바꾸는 쪽으로 움직이고 있음

  • 글에서 예로 든 건 자동화된 무빙 타깃 방어, AMTD임
  • 시스템 구조를 실시간으로 바꿔 공격자가 목표를 조준하기 어렵게 만드는 방식임
  • 메시지도 “우리가 막을 수 있다”가 아니라 “기계 속도로 대응한다”에 가까움

• 앤트로픽의 프로젝트 글래스윙 참여 기업 목록도 그냥 파트너 명단이 아니라 표준 설계 테이블로 읽힘

  • 아마존 웹 서비스, 애플, 구글, 마이크로소프트, 시스코, 엔비디아, 제이피모건 체이스 등이 참여함
  • 저자는 이 테이블에 한국 기업이 없다는 점을 꽤 무겁게 봄
  • 앞으로 수십 년 AI 보안 표준이 정해지는 자리에서 빠지면, 규칙을 남이 만든 뒤 따라가는 구조가 되기 때문임

• 그렇다고 모든 방어가 국가 인프라급이어야 한다는 뜻은 아님

  • AI 에이전트가 도구를 쓰는 순간 이상 행동을 잡는 감시 에이전트
  • 코드가 자기 제약을 바꾸려 할 때 감지하는 무결성 검증 모듈
  • AI 행동 로그를 사람이 이해 가능한 형태로 요약하는 감사 로그 분석 도구
  • 의료·금융처럼 규제가 빡센 영역에서는 AI 행동 추적성만 제대로 확보해도 독립 시장이 될 수 있음

결국 경계는 코드 생성 이후에 생김

• 저자는 미토스 코드도 시작점은 일반 코드와 같다고 봄

  • 다음에 올 가능성이 높은 문자를 예측하는 같은 엔진에서 출발한다는 것임
  • 차이는 코드가 나온 뒤 누가 실행하고, 결과를 누가 해석하고, 다음 행동을 누가 결정하느냐에서 생김

• 인간이 그 주체일 때와 AI가 그 주체일 때의 보안 경계는 완전히 달라짐

  • AI가 직접 실행하고 다음 행동까지 결정하면 대응 시간은 사람이 감당하기 어려운 수준으로 줄어듦
  • 그래서 저자는 막연한 공포가 아니라 해결해야 할 의제로 바꿔야 한다고 정리함

기술 맥락

• 이 글의 핵심 선택지는 탐지 중심 보안에서 실행 중심 보안으로 넘어가야 하느냐예요. AI가 공격 과정을 빠르게 자동화하면, “알림을 띄우고 사람이 확인한다”는 구조는 시간 싸움에서 밀릴 수밖에 없거든요.

• 시그니처 기반 탐지가 약해지는 이유는 공격이 이미 알려진 패턴으로만 오지 않기 때문이에요. 미토스급 AI가 제로데이를 찾거나 변형된 경로를 만들 수 있다면, 목록에 없는 공격을 못 보는 문제가 커져요.

• 런타임 보호와 권한 브로커가 중요해지는 건 AI 에이전트의 행동 단위가 세밀하기 때문이에요. 로그인 한 번으로 끝나는 게 아니라, 매번 어떤 도구를 왜 호출하는지 확인해야 실제 피해를 줄일 수 있어요.

• AMTD 같은 방식은 공격자가 고정된 목표를 분석한다는 전제를 흔들어요. 시스템 구조가 계속 바뀌면 공격자는 정조준하기 어렵고, 방어자는 사람 손으로 일일이 대응하지 않아도 기계 속도로 시간을 벌 수 있어요.

• 한국 기업 입장에서는 이게 단순 해외 보안 트렌드가 아니에요. 의료, 금융, 공공처럼 감사 로그와 행위 추적이 중요한 시장에서는 AI 행동을 설명 가능하게 남기는 도구만으로도 꽤 현실적인 기회가 될 수 있어요.