---
title: "구글, 제미나이 과금 사고 뒤 “AI 보안은 처음부터 설계해야 한다”"
published: 2026-05-25T08:05:01.787Z
canonical: https://jeff.news/article/3189
---
# 구글, 제미나이 과금 사고 뒤 “AI 보안은 처음부터 설계해야 한다”

구글클라우드가 제미나이 무단 API 호출로 고액 과금 논란을 겪은 뒤, AI 보안과 데이터 거버넌스를 처음부터 설계해야 한다고 강조했어. 특히 노출된 API 키가 제미나이 호출에 악용되면서 30분 만에 약 1500만원이 청구된 사례까지 나왔다는 점이 꽤 뼈아파.

## 구글이 말한 핵심은 “AI 보안, 나중에 붙이면 늦다”임

- 구글클라우드 COO 프랜시스 드 수자가 AI 시대의 보안·데이터 전략을 처음부터 설계해야 한다고 강조했음
  - 기업이 AI 플랫폼을 만들 때 보안, 거버넌스, 감사 가능성을 초기 구조에 넣어야 한다는 얘기야.
  - 직원들이 승인 없이 소비자용 AI 도구를 쓰는 섀도 AI가 퍼지면 민감 데이터가 조직 통제 밖으로 나갈 수 있다고 봤어.

- AI가 붙으면서 방어해야 할 표면이 확 넓어졌다는 지적도 나옴
  - 예전에는 네트워크와 서버가 중심이었다면, 이제는 모델, 학습 데이터 파이프라인, 에이전트, 프롬프트까지 방어 대상이 됐다는 거야.
  - 수자는 최초 침해 뒤 공격이 다음 단계로 넘어가는 평균 시간이 8시간에서 22초로 줄었다고 말했어. 이 숫자는 좀 섬뜩함.

> [!WARNING]
> 공격 전개 시간이 8시간에서 22초로 줄었다면, 사람이 알림 보고 판단해서 막는 방식만으로는 부족해짐. AI 시스템에는 자동 탐지와 자동 대응 설계가 기본값에 가까워지고 있어.

```mermaid
sequenceDiagram
    participant 공격자
    participant 노출된키
    participant 제미나이
    participant 과금시스템
    participant 개발자
    공격자->>노출된키: 외부에 공개된 키 확보
    공격자->>제미나이: 키로 무단 API 호출
    제미나이->>과금시스템: 호출 비용 집계
    과금시스템->>개발자: 계정에 고액 청구
    개발자->>노출된키: 키 삭제 시도
    노출된키->>제미나이: 최대 23분 더 사용 가능
```

## 제미나이 과금 사고가 배경에 있음

- 구글클라우드는 최근 제미나이 무단 API 호출로 고객에게 고액 과금을 청구했다가 전액 환불 처리했음
  - 더레지스터 보도에 따르면 일부 구글클라우드 개발자들이 제미나이 모델 무단 호출로 큰 청구서를 받았어.
  - 문제는 구글 맵스용 API 키가 제미나이 호출에도 쓰일 수 있게 되면서 발생했음.

- 공격자는 외부에 노출된 키를 악용했고, 비용은 개발자 계정으로 청구됐음
  - 한 피해자는 약 30분 만에 1만138달러, 우리 돈 약 1500만원을 청구받았다고 밝혔어.
  - 또 다른 시드니 개발자는 약 1만7000호주달러, 약 1840만원 규모 요금을 청구받은 것으로 전해졌음.

- 키를 삭제해도 바로 끝나지 않는다는 분석까지 나왔음
  - 보안업체 아이키도는 손상된 구글 API 키를 삭제해도 최대 23분 동안 공격자가 계속 사용할 수 있다고 분석했어.
  - API 키 폐기 지연은 클라우드 과금 사고에서 치명적이야. 몇 분이면 대규모 모델 호출 비용이 확 튈 수 있으니까.

> [!IMPORTANT]
> 이번 사고의 본질은 “키가 샜다”에서 끝나지 않음. 하나의 키가 어떤 서비스까지 호출할 수 있는지, 폐기 후 언제 실제로 막히는지, 과금 한도는 어떻게 걸리는지가 전부 보안 설계에 들어가야 해.

## AI 에이전트 시대엔 낡은 권한도 다시 위험해짐

- 수자는 AI 에이전트가 기업 내부 시스템을 돌아다니며 오래 방치된 데이터 저장소를 찾아낼 수 있다고 경고했음
  - 예전에는 존재 자체가 잘 알려지지 않아 묻혀 있던 오래된 셰어포인트 서버나 접근 권한 설정이 문제가 될 수 있다는 거야.
  - 사람은 못 찾고 지나친 데이터도 에이전트는 작업 중에 발견할 수 있으니, 오래된 권한 관리가 갑자기 보안 사고의 입구가 될 수 있음.

- 구글의 결론은 AI 네이티브 보안 체계임
  - 사람이 직접 모든 공격 속도를 따라잡기 어렵기 때문에 AI 에이전트가 방어를 수행하고 사람이 감독하는 방식으로 바뀌어야 한다는 주장임.
  - 수자는 데이터 전략과 보안 전략이 없는 AI 전략은 존재하지 않는다고 못 박았어.

---

## 기술 맥락

- 이번 이슈에서 중요한 선택은 AI 기능을 붙일 때 인증과 과금 권한을 어떻게 나누느냐예요. 구글 맵스용 API 키가 제미나이 호출에도 쓰일 수 있었다면, 개발자 입장에서는 ‘지도 키 하나’가 갑자기 고비용 AI 모델 호출 권한이 된 셈이거든요.

- 그래서 API 키는 단순 인증 수단이 아니라 비용 폭탄의 스위치로 봐야 해요. 어떤 서비스 호출이 가능한지, 호출량 제한은 얼마인지, 비정상 사용이 감지되면 자동 차단되는지까지 같이 설계해야 해요.

- 키 삭제 후 최대 23분 동안 계속 사용될 수 있다는 분석도 실무적으로 꽤 큽니다. 사고 대응 플레이북에서 ‘키 삭제’만 적어두면 부족하고, 실제 차단 전파 시간 동안 과금이 더 발생할 수 있다는 전제를 둬야 하거든요.

- AI 에이전트 보안도 같은 맥락이에요. 에이전트가 내부 저장소를 찾아다닐 수 있다면, 오래된 권한과 방치된 데이터가 갑자기 노출면이 돼요. AI 도입 전에 데이터 거버넌스를 정리해야 하는 이유가 바로 여기에 있어요.

## 핵심 포인트

- 구글클라우드 COO가 AI 플랫폼 구축 시 보안, 거버넌스, 감사 가능성을 초기 설계에 넣어야 한다고 강조함
- 초기 침해 후 공격이 다음 단계로 넘어가는 평균 시간이 8시간에서 22초로 줄었다고 언급함
- 구글 맵스용 API 키가 제미나이 호출에도 쓰이며 무단 과금 사고가 발생함
- 손상된 구글 API 키를 삭제해도 최대 23분 동안 계속 악용될 수 있다는 분석이 나옴

## 인사이트

AI 보안은 이제 프롬프트 필터링 수준 얘기가 아니야. 모델, 데이터 파이프라인, 에이전트, 과금 정책, 키 폐기 지연까지 한꺼번에 보지 않으면 ‘키 하나 샜을 뿐인데 수천만원’ 같은 사고가 현실이 돼.