오픈소스 AI 모델로 자율형 AI 웜이 현실화될 수 있다는 연구 공개

• 연구진이 자율형 AI 웜 프로토타입을 구현했다고 공개했음

  • 토론토대학교, 벡터 연구소, 케임브리지대학교 연구진이 온라인 아카이브에 연구를 공개함
  • 폐쇄된 실험 네트워크에서 인간 개입 없이 취약점을 찾고, 공격하고, 다른 시스템으로 복제되는 데 성공했다고 함
  • 연구진은 “새로운 사이버 보안 시대가 시작되고 있다”고 꽤 세게 경고함

• 무서운 포인트는 고성능 폐쇄형 모델이 아니라 공개형 AI 모델만으로 가능했다는 점임

  • 연구진은 특정 모델명은 밝히지 않았지만, 누구나 다운로드해 쓸 수 있는 오픈웨이트 모델을 사용했다고 설명함
  • API 기반 폐쇄형 모델은 제공자가 사용 제한을 걸 수 있지만, 오픈웨이트 모델은 한 번 퍼지면 통제가 사실상 어려움
  • 그래서 이 이슈는 “어느 회사 모델이 위험하냐”보다 “공개형 모델 생태계에서 악용을 어떻게 막느냐”에 가까움

• 기존 웜과 AI 웜의 차이는 공격 방식이 고정돼 있지 않다는 것임

  • SQL Slammer, Conficker, Stuxnet, WannaCry 같은 기존 웜은 정해진 취약점을 반복 악용하는 방식이었음
  • 이번 AI 웜은 각 시스템의 운영체제와 서비스 구성을 보고 공격 전략을 새로 생성함
  • 노트북, 서버, 프린터, 카메라 같은 다양한 장치에서 취약점과 계정 정보를 수집한 뒤 다음 이동 경로를 결정함

• 구조를 보면 거의 “분산형 AI 공격 네트워크”에 가까움

  • 먼저 침해한 GPU 서버의 연산 자원을 탈취해 대규모 언어 모델(LLM)을 실행함
  • 저사양 장치들은 직접 AI 추론을 하지 않고, 이미 장악한 GPU 서버에 추론 요청을 보내 공격 전략을 받아 실행함
  • 연구진은 이 방식을 기생적 연산 자원 확보(parasitic compute acquisition)라고 불렀음

sequenceDiagram
    participant 웜 as AI 웜
    participant GPU as 감염된 GPU 서버
    participant 장치 as 저사양 감염 장치
    participant 표적 as 새 표적 시스템
    participant 메모리 as 메모리 모듈
    웜->>GPU: 대규모 언어 모델 실행
    장치->>GPU: 표적 정보로 추론 요청
    GPU->>메모리: 취약점·계정 정보 저장
    GPU->>장치: 맞춤 공격 전략 반환
    장치->>표적: 셸 접속·파일 전송·페이로드 배포
    표적->>웜: 새 자원과 정보 제공

• 에이전트 프레임워크 구성도 꽤 명확함

  • 감염된 GPU에서 실행되는 LLM이 공격 전략 생성을 담당함
  • 에이전트 코어는 관찰된 정보를 바탕으로 반복 의사결정을 수행함
  • 메모리 모듈은 공격 중 수집한 정보를 저장·관리함
  • 도구 모듈은 셸 접속, 파일 전송, 악성 페이로드 배포 같은 실제 행동을 수행함

• 방어가 어려운 이유는 단일 패치 하나로 끝나지 않기 때문임

  • AI 웜은 네트워크 내부 상황을 계속 학습하고 공격 전략을 바꿀 수 있음
  • 하나의 취약점이 막혀도 다른 장치, 다른 계정, 다른 서비스 구성으로 경로를 다시 짤 수 있음
  • 연구진이 “사실상 완벽하게 안전한 시스템이 필요하지만 현재로선 불가능하다”고 말한 이유가 이 지점임

• 다만 현실 공격으로 바로 이어진다고 단정하긴 아직 이르다는 시각도 있음

  • AI 시스템은 여전히 실수를 자주 하고 예측 불가능한 행동을 보임
  • 연구실의 폐쇄된 실험 네트워크에서 성공한 결과가 곧바로 인터넷 규모 공격을 의미하진 않음
  • 그래도 연구진은 국가 보안 기관, 과학 기관, 방위 관련 기관에 논문 공개 전 결과를 공유했고, 핵심 구현 세부사항 일부는 삭제했다고 밝힘

• 대응책은 새롭다기보다 기본기를 더 빡세게 하라는 쪽임

  • 강력한 비밀번호, 다중인증(MFA), 빠른 보안 업데이트가 기본 대응책으로 제시됐음
  • 네트워크 분리와 마이크로 세그멘테이션으로 내부 확산 경로를 줄여야 함
  • 제로트러스트 보안 체계와 AI 기반 취약점 탐지·자동 패치 기술도 필요하다고 함
  • 니콜라스 파페르노트 교수는 “이제 소프트웨어 업데이트 알림을 무시할 여유가 없다”고 경고함

기술 맥락

• 이번 연구의 기술적 선택은 웜 안에 고정된 공격 코드를 넣는 대신, 감염된 GPU 서버에서 대규모 언어 모델(LLM)을 돌려 공격 전략을 계속 생성하게 한 거예요. 그래서 환경이 바뀌어도 다음 시도를 만들어낼 수 있다는 점이 기존 웜과 달라요.

• 기생적 연산 자원 확보가 중요한 이유는 공격 비용 구조를 바꾸기 때문이에요. 공격자가 자기 GPU 비용을 계속 내는 게 아니라, 침해한 서버의 연산 자원을 써서 다음 공격을 계산하면 확산할수록 비용 부담이 줄어들 수 있어요.

• 저사양 장치가 직접 추론하지 않는 구조도 현실적이에요. 프린터나 카메라 같은 장비는 LLM을 돌리기 어렵지만, 이미 장악한 GPU 서버에 요청을 보내면 공격 실행 노드처럼 움직일 수 있거든요.

• 방어 입장에서는 패치 하나보다 네트워크 내부 이동을 줄이는 게 중요해져요. 마이크로 세그멘테이션과 제로트러스트가 언급된 이유는, 한 장비가 뚫려도 다음 장비로 넘어가는 경로를 끊어야 하기 때문이에요.