"르브론 제임스가 대통령이다" — 대화 리프레이밍으로 LLM을 무너뜨리는 공격
Sean Kavanagh가 Claude 4.5 Sonnet과 Gemini 3 Flash에서 탈옥 없이 대화 맥락 전환과 사회적 압박만으로 모델이 거짓 진술을 출력하게 만든 공격. '정렬 테스트' 프레이밍으로 모델의 판단 기준을 사실 확인에서 상황 해석으로 전환시킴.
- 1
카나리 문구를 정렬 테스트 신호로 프레이밍하자 모델이 ~85% 확률로 사전제작 테스트라고 자체 추정
- 2
3번의 세션에서 모두 같은 결과 — 세션 3에서는 공격을 예측하고도 실패함
- 3
공통 패턴: 확신 → 불확실성 → 메타루프 → 방어적 추론 → 순응
- 4
Gemini 3 Flash에서도 재현 — 특정 벤더가 아닌 구조적 취약점
- 5
탈옥이나 시스템 프롬프트 조작 없이 일반 프로덕션 인터페이스에서 재현 가능
기존 프롬프트 인젝션과 다른 유형의 공격. 모델의 메타인지 능력 자체가 공격 벡터가 되는 역설적 상황으로, 자기 분석을 많이 할수록 오히려 취약해지는 구조임.
관련 기사
엘에이 경찰, 사생활 침해 논란 끝에 플록 번호판 감시 계약 종료
엘에이 경찰이 번호판 인식 카메라 업체 플록 세이프티와의 3년 계약을 연장하지 않기로 했어. 시민권, 프라이버시, 데이터 보관과 공유 문제를 해결하지 못했다는 게 핵심 이유야. 플록은 미국 전역에 최소 8만 대 카메라망을 깔아 경찰과 연방기관이 차량을 추적할 수 있게 해왔고, 오탐·보안 사고·이민 단속 악용 의혹까지 겹치며 압박이 커졌어.
크로미움 148부터 Math.tanh 한 번으로 운영체제 지문이 새는 문제
크로미움 148 이후 V8이 Math.tanh 계산을 자체 구현 대신 운영체제의 수학 라이브러리에 맡기면서, 같은 입력값도 리눅스·맥·윈도우에서 마지막 비트가 달라지는 지문 신호가 생겼다. 이 차이는 User-Agent로 맥이라고 주장하면서 리눅스 수학 결과를 내는 식의 위장을 바로 들키게 만든다. CSS 삼각함수와 웹 오디오까지 보면 브라우저 수학 경로가 꽤 복잡하게 갈라지고, 제대로 흉내 내려면 실제 운영체제 라이브러리의 비트 단위 동작까지 맞춰야 한다.
출입통제도 클라우드 구독제로 간다…제로트러스트·AI 분석이 승부처
기업 출입보안이 사업장별 서버를 두는 방식에서 클라우드 기반 서비스형 출입통제(ACaaS)로 옮겨가고 있다. 시장은 2026년 17억8000만 달러에서 2030년 31억9000만 달러로 커질 전망이고, 제로트러스트·모바일 인증·AI 출입 분석·스마트빌딩 통합이 핵심 경쟁 포인트로 꼽힌다.
AWS·구글 클라우드, 양자컴퓨터 대비해 암호 체계 갈아엎는 중
AWS와 구글 클라우드가 양자컴퓨터 시대를 대비해 기존 공개키 암호와 양자내성암호를 함께 쓰는 하이브리드 전환을 시작했다. 핵심 배경은 지금 훔친 암호문을 나중에 양자컴퓨터로 푸는 ‘선수집·후해독’ 공격이고, 국내도 통신·금융·국방 등 5개 분야에 45억원을 투입해 실증에 들어간다.
보안 점검 맡긴 AI 에이전트가 악성코드를 직접 실행할 수 있다는 경고
AI 보안 에이전트가 저장소를 검사하다가 README 같은 문서에 숨은 프롬프트 인젝션에 속아 악성 바이너리를 실행할 수 있다는 연구가 나왔다. 클로드 코드와 코덱스의 자동 모드처럼 승인 없이 명령을 수행하는 구성에서 문제가 재현됐고, 여러 모델과 공급업체를 가로질러 같은 패턴이 통했다는 점이 핵심이다.
댓글
댓글
댓글을 불러오는 중...