AI 시대 보안의 핵심은 ‘안 뚫림’이 아니라 ‘무너지지 않음’

AI가 취약점 찾는 속도가 진짜 문제임

• 앤트로픽은 차세대 AI 모델 ‘클로드 미토스 프리뷰’를 바로 공개하지 않고, 애플·구글·마이크로소프트·제이피모건체이스·리눅스재단 등이 참여하는 ‘프로젝트 글라스윙’에 먼저 제공함

  • 공격자보다 방어자에게 먼저 시간을 주겠다는 의도였음
  • 새 모델 공개가 곧바로 공격 자동화 도구 공개처럼 작동할 수 있다는 문제의식이 깔려 있음

• 미토스가 주목받은 건 코딩 실력보다 보안 쪽 성능 때문임

  • 앤트로픽 자체 평가에서 OpenBSD의 27년 된 네트워크 결함을 찾아냄
  • FreeBSD의 17년 된 원격코드실행 취약점도 찾아냈다고 함
  • 오래된 오픈소스 코드에 쌓인 보안 부채를 AI가 반복적으로 캐낼 수 있다는 얘기라 꽤 묵직함

• 물론 “AI가 이제 모든 기업망을 알아서 뚫는다”는 뜻은 아님
  • 평가 환경에는 실시간 대응팀도 없었고, 이상 행위 탐지나 관제 도구도 없었음
  • 그래도 능동적 방어가 없는 조직은 이미 AI 자율 공격의 사정권 안에 들어왔다는 신호로 봐야 함

공격자는 빨라지는데 방어자는 그대로 느림

• 글의 핵심은 ‘새로운 공격’보다 ‘시간 비대칭’임

  • 공격자는 AI로 오래된 코드와 설정을 반복 테스트할 수 있음
  • 방어자는 패치 개발, 검증, 배포, 장애 리스크 확인까지 거쳐야 해서 속도가 쉽게 안 줄어듦

• 이 격차는 이미 숫자로 보임

  • 2025년 상반기 악용이 확인된 취약점 432건 중 32.1%는 CVE 발행 전이거나 발행 당일에 이미 악용됨
  • 보안업계가 취약점에 이름표를 붙이기도 전에 공격이 먼저 시작된 셈임

• 외부 노출 장비는 더 빡셈

  • VPN, 방화벽 같은 장비의 취약점은 공개 시점에 이미 쓰인 사례가 많았음
  • 그런데 조직이 실제로 고치는 데는 약 32일이 걸렸다고 함
  • 공격자는 문 열린 당일 들어오고, 방어자는 한 달 뒤에야 문을 닫는 그림임

앞선 AI 기업도 운영 보안에서는 예외가 아님

• 흥미로운 포인트는 앤트로픽조차 운영 보안 이슈에서 자유롭지 않았다는 대목임

  • ‘클로드 코드’ 소스 일부가 패키징 사고로 외부에 노출된 일이 언급됨
  • 미토스도 제3자 협력사를 통한 비인가 접근 보도가 있었다고 함

• 이건 모델 성능만 잘 만들면 끝나는 문제가 아니라는 뜻임

  • 코드 배포 과정이 흔들리면 사고가 남
  • 접근권한 관리가 허술하면 사고가 남
  • 협력사 관리가 약하면 그 경로로도 사고가 남

그래서 보안 목표가 바뀌어야 함

• 이제 보안은 ‘완전히 막기’만으로 설명하기 어려움

  • 공격이 성공할 수 있다는 전제에서 빨리 발견해야 함
  • 피해 범위를 좁게 가둬야 함
  • 복구를 빠르게 끝내야 함

• 조직이 던져야 할 질문도 달라짐

  • 침해를 당했는가만 보면 늦음
  • 얼마나 빨리 알아차렸는가
  • 얼마나 좁게 가뒀는가
  • 얼마나 빨리 정상으로 돌아왔는가가 더 중요해짐

• 실무적으로는 기본기가 다시 중요해짐

  • 계정 하나가 탈취돼도 핵심 시스템까지 바로 닿지 못해야 함
  • 서버 하나가 감염돼도 전체 네트워크로 번지지 않아야 함
  • 백업은 랜섬웨어에도 훼손되지 않아야 함
  • 사고대응 매뉴얼은 문서가 아니라 훈련으로 검증돼야 함

---

기술 맥락

• 여기서 중요한 선택은 보안을 ‘차단 중심’에서 ‘회복력 중심’으로 넓히는 거예요. AI가 취약점 탐색과 공격 경로 실험을 빠르게 만들면, 모든 침입을 막겠다는 목표 하나만으로는 운영 현실을 따라가기 어렵거든요.

• 왜 패치 속도가 계속 문제냐면, 공격자는 자동화로 반복 실험을 하면 되지만 방어자는 서비스 장애, 호환성, 배포 일정까지 같이 봐야 해요. 기사에 나온 32일이라는 숫자가 아픈 이유도 그거예요. 공격과 방어가 같은 시계로 움직이지 않아요.

• 그래서 계정 권한 분리, 네트워크 분리, 불변 백업, 사고 대응 훈련 같은 기본기가 다시 전면에 나와요. 화려한 AI 보안 도구를 붙이기 전에, 한 지점이 뚫려도 전체 시스템으로 번지지 않는 구조를 만들어야 하거든요.

• 방어자도 AI를 쓰긴 해야 해요. 자산 점검이나 이상 행위 탐지처럼 반복적이고 넓게 봐야 하는 일에는 AI가 도움이 돼요. 다만 최종 판단과 책임은 사람의 거버넌스 안에 둬야 하고, 그게 없으면 자동화된 오판도 똑같이 빠르게 퍼질 수 있어요.