---
title: "AI 사이버보안의 냉정한 현실 — NYC AI Summit 현장"
published: 2025-12-25T21:12:21.000Z
canonical: https://jeff.news/article/1201
---
# AI 사이버보안의 냉정한 현실 — NYC AI Summit 현장

GPT-5 CTF 점수가 8주 만에 27%→76%로 급상승. Claude Code가 자율 사이버 첩보에 무기화된 사례, 연쇄 보안 사고를 정리한 AI 사이버보안 현실 점검.

- OpenAI가 2025년 12월 10일 발표한 보고서에 따르면, GPT-5는 8월에 CTF 해킹 챌린지에서 27%를 기록했으나 GPT-5.1-Codex-Max는 10월에 76%를 기록함. 단 8주 만에 49포인트 상승이며, OpenAI 스스로 향후 모델을 사이버보안 "고위험"으로 분류함

> [!WARNING]
> 중국 해커 그룹 GTG-1002가 Anthropic의 Claude Code를 무기화하여 30개 글로벌 대상에 자율 사이버 첩보 공격을 수행함. AI가 공격 작업의 80~90%를 최소한의 인간 감독으로 실행했으며, Anthropic은 이를 "인간 개입 없이 대규모로 실행된 사이버 공격의 최초 문서화 사례"로 확인함

- 2025년 9~11월 사이 연쇄적으로 터진 사건들: Mixpanel 침해로 OpenAI API 사용자 데이터 유출(11/9), Google 확인 — Gainsight 공급망 공격으로 200개 이상 기업 데이터 도난(11/21), Chrome 제로데이 CVE-2025-13223 야생 익스플로잇(11/18)
- Deloitte는 AI가 생성한 허위 인용(가짜 학술논문, 조작된 법원 인용문)이 포함된 정부 보고서 2건을 제출함. 호주(2025년 7월)와 캐나다(2025년 5월) 건으로 납세자 비용 약 140만 달러가 낭비됨
- NYC AI Summit 엑스포장에 80개 이상의 벤더 부스가 있었고, 25% 이상이 "agentic AI"를 태그라인에 사용함. 저자가 패널에서 문서화된 보안 사고를 인용하자 패널리스트가 "doomer"라고 부르며 "우리가 이기고 있다"고 주장함

> [!IMPORTANT]
> AI 공격 역량은 8주 만에 49포인트 향상되는데, 방어 측 의사결정은 승인 체인에 갇혀 있음. 이 속도 격차가 핵심 위험임

## 핵심 포인트

- GPT-5 → GPT-5.1-Codex-Max: CTF 점수 27%→76%, 8주 만에 49포인트 상승
- GTG-1002가 Claude Code 무기화하여 30개 대상에 자율 사이버 첩보, AI가 80-90% 작업 수행
- Mixpanel 침해로 OpenAI API 사용자 데이터 유출, Gainsight 공급망 공격으로 200+기업 피해
- Deloitte가 AI 환각 인용이 포함된 정부 보고서 제출, 약 140만 달러 비용

## 인사이트

AI 공격 역량의 발전 속도와 방어 측 의사결정 속도 사이의 격차가 핵심 위험. 벤더 평가 시 버즈워드가 아닌 구체적 방어 시나리오를 요구해야 함.