본문으로 건너뛰기
피드

AI 사이버보안의 냉정한 현실 — NYC AI Summit 현장

security 약 3분
vote
0
댓글
북마크

GPT-5 CTF 점수가 8주 만에 27%→76%로 급상승. Claude Code가 자율 사이버 첩보에 무기화된 사례, 연쇄 보안 사고를 정리한 AI 사이버보안 현실 점검.

  • 1

    GPT-5 → GPT-5.1-Codex-Max: CTF 점수 27%→76%, 8주 만에 49포인트 상승

  • 2

    GTG-1002가 Claude Code 무기화하여 30개 대상에 자율 사이버 첩보, AI가 80-90% 작업 수행

  • 3

    Mixpanel 침해로 OpenAI API 사용자 데이터 유출, Gainsight 공급망 공격으로 200+기업 피해

  • 4

    Deloitte가 AI 환각 인용이 포함된 정부 보고서 제출, 약 140만 달러 비용

  • OpenAI가 2025년 12월 10일 발표한 보고서에 따르면, GPT-5는 8월에 CTF 해킹 챌린지에서 27%를 기록했으나 GPT-5.1-Codex-Max는 10월에 76%를 기록함. 단 8주 만에 49포인트 상승이며, OpenAI 스스로 향후 모델을 사이버보안 "고위험"으로 분류함

⚠️주의

> 중국 해커 그룹 GTG-1002가 Anthropic의 Claude Code를 무기화하여 30개 글로벌 대상에 자율 사이버 첩보 공격을 수행함. AI가 공격 작업의 80~90%를 최소한의 인간 감독으로 실행했으며, Anthropic은 이를 "인간 개입 없이 대규모로 실행된 사이버 공격의 최초 문서화 사례"로 확인함

  • 2025년 9~11월 사이 연쇄적으로 터진 사건들: Mixpanel 침해로 OpenAI API 사용자 데이터 유출(11/9), Google 확인 — Gainsight 공급망 공격으로 200개 이상 기업 데이터 도난(11/21), Chrome 제로데이 CVE-2025-13223 야생 익스플로잇(11/18)
  • Deloitte는 AI가 생성한 허위 인용(가짜 학술논문, 조작된 법원 인용문)이 포함된 정부 보고서 2건을 제출함. 호주(2025년 7월)와 캐나다(2025년 5월) 건으로 납세자 비용 약 140만 달러가 낭비됨
  • NYC AI Summit 엑스포장에 80개 이상의 벤더 부스가 있었고, 25% 이상이 "agentic AI"를 태그라인에 사용함. 저자가 패널에서 문서화된 보안 사고를 인용하자 패널리스트가 "doomer"라고 부르며 "우리가 이기고 있다"고 주장함

중요

> AI 공격 역량은 8주 만에 49포인트 향상되는데, 방어 측 의사결정은 승인 체인에 갇혀 있음. 이 속도 격차가 핵심 위험임

AI 공격 역량의 발전 속도와 방어 측 의사결정 속도 사이의 격차가 핵심 위험. 벤더 평가 시 버즈워드가 아닌 구체적 방어 시나리오를 요구해야 함.

댓글

댓글

댓글을 불러오는 중...

security

한양대 에리카와 네이버클라우드, 클라우드·보안·AI 인재 키우는 산학협력 체결

한양대 에리카가 네이버클라우드와 첨단 분야 지역인재 양성과 글로벌 산학협력을 위한 업무협약을 맺었다. 협력 범위는 클라우드, 사이버보안, 블록체인, 개인정보보호, 인공지능(AI), 디지털 전환(DX) 교육·연구 기반 구축까지 포함된다.

security

악성 npm 패키지가 AI 개발도구의 지침 파일과 MCP까지 노리기 시작함

이스트시큐리티가 웹과 탈중앙화금융 개발자를 겨냥한 악성 npm 패키지 캠페인을 포착했어. 공격자는 유명 웹3 도구를 사칭하는 데서 그치지 않고, AI 에이전트가 읽는 프로젝트 지침 파일과 MCP 기반 외부 도구 호출까지 공격 경로로 삼으려 했어.

security

금융권, 앤트로픽 미토스가 찾은 오픈소스 취약점에 긴급 점검 들어감

앤트로픽의 AI 모델 클로드 미토스가 1000개 넘는 오픈소스에서 대량의 취약점 후보를 찾아냈고, 그중 일부가 실제 취약점으로 검증돼 공개됐어. 금융당국은 nginx, wolfSSL, FreeRDP, Ghost 같은 널리 쓰이는 구성요소를 중심으로 금융권에 긴급 자산 점검과 패치 적용을 권고했어.

security

애플이 양자 내성 암호화 검증 코드를 공개했다, 핵심은 수학적 증명

애플이 corecrypto 라이브러리의 포스트 양자 암호화 구현과 검증 코드를 GitHub에 공개했다. ML-KEM, ML-DSA 구현과 형식 검증 접근을 공개해 보안 연구자들이 직접 검토할 수 있게 했고, 이 기술은 25억 대 이상 활성 기기에서 쓰이는 암호화 기반과 연결된다.

security

라라벨 번역 패키지 태그가 통째로 바뀌었다, 개발자 비밀값 털리는 공급망 공격

전 세계 라라벨 개발자가 쓰는 Laravel-Lang 패키지가 공격을 받아 Git 태그가 악성 버전을 가리키도록 바뀌었다. 5월 22일 약 90분 동안 4개 저장소의 태그가 교체됐고, 감염된 패키지는 AWS 키, GitHub 토큰, Stripe 시크릿, 암호화폐 지갑 복구 구문, SSH 개인키 등을 노렸다.