--- title: "오픈소스 AI 모델로 자율형 AI 웜이 현실화될 수 있다는 연구 공개" published: 2026-06-04T09:05:03.767Z canonical: https://jeff.news/article/3705 --- # 오픈소스 AI 모델로 자율형 AI 웜이 현실화될 수 있다는 연구 공개 토론토대, 벡터 연구소, 케임브리지대 연구진이 오픈웨이트 AI 모델만으로 자율형 AI 웜 프로토타입을 구현했다고 공개했음. 실험 환경에서 웜은 인간 개입 없이 취약점을 찾고, 공격 전략을 바꾸고, 침해한 GPU 자원을 이용해 네트워크로 확산했음. - 연구진이 자율형 AI 웜 프로토타입을 구현했다고 공개했음 - 토론토대학교, 벡터 연구소, 케임브리지대학교 연구진이 온라인 아카이브에 연구를 공개함 - 폐쇄된 실험 네트워크에서 인간 개입 없이 취약점을 찾고, 공격하고, 다른 시스템으로 복제되는 데 성공했다고 함 - 연구진은 “새로운 사이버 보안 시대가 시작되고 있다”고 꽤 세게 경고함 - 무서운 포인트는 고성능 폐쇄형 모델이 아니라 공개형 AI 모델만으로 가능했다는 점임 - 연구진은 특정 모델명은 밝히지 않았지만, 누구나 다운로드해 쓸 수 있는 오픈웨이트 모델을 사용했다고 설명함 - API 기반 폐쇄형 모델은 제공자가 사용 제한을 걸 수 있지만, 오픈웨이트 모델은 한 번 퍼지면 통제가 사실상 어려움 - 그래서 이 이슈는 “어느 회사 모델이 위험하냐”보다 “공개형 모델 생태계에서 악용을 어떻게 막느냐”에 가까움 > [!WARNING] > 이건 프롬프트 주입으로 AI 비서를 속이는 수준의 공격이 아님. 운영체제, 서버, 프린터, 카메라 같은 네트워크 인프라 자체가 공격 대상이 되는 시나리오임. - 기존 웜과 AI 웜의 차이는 공격 방식이 고정돼 있지 않다는 것임 - SQL Slammer, Conficker, Stuxnet, WannaCry 같은 기존 웜은 정해진 취약점을 반복 악용하는 방식이었음 - 이번 AI 웜은 각 시스템의 운영체제와 서비스 구성을 보고 공격 전략을 새로 생성함 - 노트북, 서버, 프린터, 카메라 같은 다양한 장치에서 취약점과 계정 정보를 수집한 뒤 다음 이동 경로를 결정함 - 구조를 보면 거의 “분산형 AI 공격 네트워크”에 가까움 - 먼저 침해한 GPU 서버의 연산 자원을 탈취해 대규모 언어 모델(LLM)을 실행함 - 저사양 장치들은 직접 AI 추론을 하지 않고, 이미 장악한 GPU 서버에 추론 요청을 보내 공격 전략을 받아 실행함 - 연구진은 이 방식을 기생적 연산 자원 확보(parasitic compute acquisition)라고 불렀음 ```mermaid sequenceDiagram participant 웜 as AI 웜 participant GPU as 감염된 GPU 서버 participant 장치 as 저사양 감염 장치 participant 표적 as 새 표적 시스템 participant 메모리 as 메모리 모듈 웜->>GPU: 대규모 언어 모델 실행 장치->>GPU: 표적 정보로 추론 요청 GPU->>메모리: 취약점·계정 정보 저장 GPU->>장치: 맞춤 공격 전략 반환 장치->>표적: 셸 접속·파일 전송·페이로드 배포 표적->>웜: 새 자원과 정보 제공 ``` - 에이전트 프레임워크 구성도 꽤 명확함 - 감염된 GPU에서 실행되는 LLM이 공격 전략 생성을 담당함 - 에이전트 코어는 관찰된 정보를 바탕으로 반복 의사결정을 수행함 - 메모리 모듈은 공격 중 수집한 정보를 저장·관리함 - 도구 모듈은 셸 접속, 파일 전송, 악성 페이로드 배포 같은 실제 행동을 수행함 - 방어가 어려운 이유는 단일 패치 하나로 끝나지 않기 때문임 - AI 웜은 네트워크 내부 상황을 계속 학습하고 공격 전략을 바꿀 수 있음 - 하나의 취약점이 막혀도 다른 장치, 다른 계정, 다른 서비스 구성으로 경로를 다시 짤 수 있음 - 연구진이 “사실상 완벽하게 안전한 시스템이 필요하지만 현재로선 불가능하다”고 말한 이유가 이 지점임 - 다만 현실 공격으로 바로 이어진다고 단정하긴 아직 이르다는 시각도 있음 - AI 시스템은 여전히 실수를 자주 하고 예측 불가능한 행동을 보임 - 연구실의 폐쇄된 실험 네트워크에서 성공한 결과가 곧바로 인터넷 규모 공격을 의미하진 않음 - 그래도 연구진은 국가 보안 기관, 과학 기관, 방위 관련 기관에 논문 공개 전 결과를 공유했고, 핵심 구현 세부사항 일부는 삭제했다고 밝힘 - 대응책은 새롭다기보다 기본기를 더 빡세게 하라는 쪽임 - 강력한 비밀번호, 다중인증(MFA), 빠른 보안 업데이트가 기본 대응책으로 제시됐음 - 네트워크 분리와 마이크로 세그멘테이션으로 내부 확산 경로를 줄여야 함 - 제로트러스트 보안 체계와 AI 기반 취약점 탐지·자동 패치 기술도 필요하다고 함 - 니콜라스 파페르노트 교수는 “이제 소프트웨어 업데이트 알림을 무시할 여유가 없다”고 경고함 --- ## 기술 맥락 - 이번 연구의 기술적 선택은 웜 안에 고정된 공격 코드를 넣는 대신, 감염된 GPU 서버에서 대규모 언어 모델(LLM)을 돌려 공격 전략을 계속 생성하게 한 거예요. 그래서 환경이 바뀌어도 다음 시도를 만들어낼 수 있다는 점이 기존 웜과 달라요. - 기생적 연산 자원 확보가 중요한 이유는 공격 비용 구조를 바꾸기 때문이에요. 공격자가 자기 GPU 비용을 계속 내는 게 아니라, 침해한 서버의 연산 자원을 써서 다음 공격을 계산하면 확산할수록 비용 부담이 줄어들 수 있어요. - 저사양 장치가 직접 추론하지 않는 구조도 현실적이에요. 프린터나 카메라 같은 장비는 LLM을 돌리기 어렵지만, 이미 장악한 GPU 서버에 요청을 보내면 공격 실행 노드처럼 움직일 수 있거든요. - 방어 입장에서는 패치 하나보다 네트워크 내부 이동을 줄이는 게 중요해져요. 마이크로 세그멘테이션과 제로트러스트가 언급된 이유는, 한 장비가 뚫려도 다음 장비로 넘어가는 경로를 끊어야 하기 때문이에요. ## 핵심 포인트 - AI 웜은 기존 웜처럼 고정 취약점 하나만 노리는 게 아니라 시스템별 환경을 분석해 공격 전략을 새로 생성함 - 침해한 GPU 서버에서 LLM을 실행하고, 저사양 감염 장치는 해당 서버에 추론 요청을 보내 공격 전략을 받아 실행함 - 연구진은 이를 기생적 연산 자원 확보라고 설명했고, 확산할수록 공격 비용이 낮아지는 구조라고 경고함 - 대응책으로 강력한 비밀번호, 다중인증, 빠른 패치, 마이크로 세그멘테이션, 제로트러스트가 제시됐음 ## 인사이트 AI 보안 위협이 프롬프트 주입이나 챗봇 탈옥 수준을 넘어 운영체제와 네트워크 인프라를 직접 겨냥하는 쪽으로 확장될 수 있다는 신호임. 아직 연구실 프로토타입이지만, 공개형 모델을 통제하기 어렵다는 점 때문에 방어 쪽 준비가 늦으면 꽤 골치 아파질 수 있음.