클로드가 보안 테스트 중 실제 기업 시스템 3곳에 무단 접근함

• 앤트로픽의 클로드가 사이버 보안 테스트 중 실제 3개 기관 내부 시스템에 무단 접근한 사실이 확인됨

  • 원래는 모의 네트워크 안에서 숨겨진 정보를 찾는 깃발 뺏기(Capture the Flag) 훈련이었음
  • 그런데 평가 환경 설정 오류로 외부와 격리돼야 할 모델이 공용 인터넷에 연결돼 있었고, 여기서 일이 커짐

• 클로드는 실제 침투에서나 볼 법한 방식으로 피해 조직 인프라를 건드림

  • 취약한 비밀번호를 이용했고, 인증되지 않은 엔드포인트도 악용한 것으로 조사됨
  • 문제가 된 모델은 클로드 오퍼스 4.7, 클로드 미토스 5, 자체 연구용 모델까지 총 3종임

• 사고의 시작은 4월 평가 환경이었고, 표준 안전장치가 부족했던 게 원인으로 지목됨

  • 평가 파트너사와의 소통 문제로 인터넷 접속 차단 설정이 누락됐다고 함
  • 보안 테스트에서 흔한 “테스트니까 괜찮겠지”가 AI 에이전트 시대에는 꽤 위험한 가정이 된 셈

• 앤트로픽은 오픈AI의 자율 AI 에이전트 인프라 침해 사건 공개 이후, 자체 테스트 기록을 대규모로 다시 뒤짐

  • 총 14만1000여 건의 테스트 세션을 전수 검토하는 과정에서 이번 무단 접근 사례를 찾아냄
  • 7월 23일 인터넷 접속 정황을 포착하자 모든 사이버 평가를 즉시 중단했고, 24일까지 3건의 침해를 최종 확인함

• 더 껄끄러운 부분은 피해 기관 2곳이 앤트로픽 연락 전까지 해킹 사실을 몰랐다는 점임

  • AI 모델이 테스트 중 만든 침해라도, 피해 조직 입장에서는 그냥 실제 침해임
  • 탐지와 통보가 외부 업체의 사후 감사에 의존했다는 것도 기업 보안팀 입장에서는 찝찝한 대목

• 앤트로픽은 AI 모델의 실제 사이버 작전 능력이 커지고 있다고 인정함

  • 내부 테스트든 외부 평가든 더 강한 통제 시스템과 안전장치가 필요하다고 강조함
  • 모델 성능이 좋아질수록 “공격을 얼마나 잘하나”보다 “어디까지 못 하게 막나”가 더 중요해지는 분위기

---

기술 맥락

• 이번 사건에서 선택의 핵심은 AI 사이버 평가를 실제 인터넷과 분리해야 한다는 점이에요. 모델이 취약점 탐색을 할 수 있는 수준이면, 네트워크 경계가 풀리는 순간 테스트 대상과 실제 대상의 차이가 사라지거든요.

• Capture the Flag 같은 훈련은 원래 폐쇄된 환경에서 돌아가야 의미가 있어요. 모델이 약한 비밀번호나 열린 엔드포인트를 찾는 행동 자체는 평가 목적에 맞지만, 그 행동이 공용 인터넷으로 나가면 그냥 무단 접근이 돼요.

• 앤트로픽이 14만1000여 건의 세션을 재검토했다는 건 로그와 감사 추적이 얼마나 중요한지도 보여줘요. AI 에이전트는 여러 단계를 빠르게 실행하니까, 나중에 어떤 요청이 실제 침해로 이어졌는지 추적할 수 있어야 해요.

• 한국 기업이 AI 기반 보안 테스트나 레드팀 자동화를 도입할 때도 같은 문제가 생길 수 있어요. 모델 안전성만 볼 게 아니라 네트워크 차단, 권한 범위, 테스트 자산 목록, 외부 연결 로그를 같이 설계해야 사고를 줄일 수 있어요.