구글, 제미나이 과금 사고 뒤 “AI 보안은 처음부터 설계해야 한다”

구글이 말한 핵심은 “AI 보안, 나중에 붙이면 늦다”임

• 구글클라우드 COO 프랜시스 드 수자가 AI 시대의 보안·데이터 전략을 처음부터 설계해야 한다고 강조했음

  • 기업이 AI 플랫폼을 만들 때 보안, 거버넌스, 감사 가능성을 초기 구조에 넣어야 한다는 얘기야.
  • 직원들이 승인 없이 소비자용 AI 도구를 쓰는 섀도 AI가 퍼지면 민감 데이터가 조직 통제 밖으로 나갈 수 있다고 봤어.

• AI가 붙으면서 방어해야 할 표면이 확 넓어졌다는 지적도 나옴

  • 예전에는 네트워크와 서버가 중심이었다면, 이제는 모델, 학습 데이터 파이프라인, 에이전트, 프롬프트까지 방어 대상이 됐다는 거야.
  • 수자는 최초 침해 뒤 공격이 다음 단계로 넘어가는 평균 시간이 8시간에서 22초로 줄었다고 말했어. 이 숫자는 좀 섬뜩함.

sequenceDiagram
    participant 공격자
    participant 노출된키
    participant 제미나이
    participant 과금시스템
    participant 개발자
    공격자->>노출된키: 외부에 공개된 키 확보
    공격자->>제미나이: 키로 무단 API 호출
    제미나이->>과금시스템: 호출 비용 집계
    과금시스템->>개발자: 계정에 고액 청구
    개발자->>노출된키: 키 삭제 시도
    노출된키->>제미나이: 최대 23분 더 사용 가능

제미나이 과금 사고가 배경에 있음

• 구글클라우드는 최근 제미나이 무단 API 호출로 고객에게 고액 과금을 청구했다가 전액 환불 처리했음

  • 더레지스터 보도에 따르면 일부 구글클라우드 개발자들이 제미나이 모델 무단 호출로 큰 청구서를 받았어.
  • 문제는 구글 맵스용 API 키가 제미나이 호출에도 쓰일 수 있게 되면서 발생했음.

• 공격자는 외부에 노출된 키를 악용했고, 비용은 개발자 계정으로 청구됐음

  • 한 피해자는 약 30분 만에 1만138달러, 우리 돈 약 1500만원을 청구받았다고 밝혔어.
  • 또 다른 시드니 개발자는 약 1만7000호주달러, 약 1840만원 규모 요금을 청구받은 것으로 전해졌음.

• 키를 삭제해도 바로 끝나지 않는다는 분석까지 나왔음

  • 보안업체 아이키도는 손상된 구글 API 키를 삭제해도 최대 23분 동안 공격자가 계속 사용할 수 있다고 분석했어.
  • API 키 폐기 지연은 클라우드 과금 사고에서 치명적이야. 몇 분이면 대규모 모델 호출 비용이 확 튈 수 있으니까.

AI 에이전트 시대엔 낡은 권한도 다시 위험해짐

• 수자는 AI 에이전트가 기업 내부 시스템을 돌아다니며 오래 방치된 데이터 저장소를 찾아낼 수 있다고 경고했음

  • 예전에는 존재 자체가 잘 알려지지 않아 묻혀 있던 오래된 셰어포인트 서버나 접근 권한 설정이 문제가 될 수 있다는 거야.
  • 사람은 못 찾고 지나친 데이터도 에이전트는 작업 중에 발견할 수 있으니, 오래된 권한 관리가 갑자기 보안 사고의 입구가 될 수 있음.

• 구글의 결론은 AI 네이티브 보안 체계임

  • 사람이 직접 모든 공격 속도를 따라잡기 어렵기 때문에 AI 에이전트가 방어를 수행하고 사람이 감독하는 방식으로 바뀌어야 한다는 주장임.
  • 수자는 데이터 전략과 보안 전략이 없는 AI 전략은 존재하지 않는다고 못 박았어.

기술 맥락

• 이번 이슈에서 중요한 선택은 AI 기능을 붙일 때 인증과 과금 권한을 어떻게 나누느냐예요. 구글 맵스용 API 키가 제미나이 호출에도 쓰일 수 있었다면, 개발자 입장에서는 ‘지도 키 하나’가 갑자기 고비용 AI 모델 호출 권한이 된 셈이거든요.

• 그래서 API 키는 단순 인증 수단이 아니라 비용 폭탄의 스위치로 봐야 해요. 어떤 서비스 호출이 가능한지, 호출량 제한은 얼마인지, 비정상 사용이 감지되면 자동 차단되는지까지 같이 설계해야 해요.

• 키 삭제 후 최대 23분 동안 계속 사용될 수 있다는 분석도 실무적으로 꽤 큽니다. 사고 대응 플레이북에서 ‘키 삭제’만 적어두면 부족하고, 실제 차단 전파 시간 동안 과금이 더 발생할 수 있다는 전제를 둬야 하거든요.

• AI 에이전트 보안도 같은 맥락이에요. 에이전트가 내부 저장소를 찾아다닐 수 있다면, 오래된 권한과 방치된 데이터가 갑자기 노출면이 돼요. AI 도입 전에 데이터 거버넌스를 정리해야 하는 이유가 바로 여기에 있어요.