본문으로 건너뛰기
피드

Anthropic, Claude Code 프롬프트 캐시 TTL을 슬쩍 1시간→5분으로 되돌린 정황 포착

devops 약 6분
vote
0
댓글
북마크

한 사용자가 12만 건의 API 호출 로그를 분석한 결과, Anthropic이 2026년 3월 초 Claude Code의 캐시 TTL을 1시간에서 5분으로 조용히 되돌린 것으로 보인다. 이로 인해 캐시 재생성 비용이 20~32% 증가했고, 구독 사용자들의 할당량 소진 속도도 급격히 빨라졌다.

  • 1

    2월 한 달간 1시간 TTL이 기본값이었으나 3월 6일경부터 5분 TTL로 회귀

  • 2

    Sonnet 기준 약 $949, Opus 기준 약 $1,582의 추가 비용 발생

  • 3

    5분 TTL에서는 잠깐의 휴식만으로도 전체 컨텍스트를 write 비용(read의 12.5배)으로 재전송

  • 4

    Pro/Max 구독자들이 3월부터 처음으로 5시간 할당량 한도에 도달하기 시작

  • Anthropic이 Claude Code의 프롬프트 캐시 TTL을 1시간에서 5분으로 슬쩍 되돌린 정황이 포착됨
    • 한 사용자가 2026년 1월~4월까지 약 12만 건의 API 호출 로그(JSONL)를 분석해서 밝혀냄
    • 리눅스 워크스테이션 + 윈도우 노트북, 서로 다른 계정 2대에서 동일한 패턴 확인 — 클라이언트 문제가 아니라 서버사이드 변경

중요

> 2월에는 캐시 낭비율이 1.1%였는데, 3월 TTL 변경 이후 25.9%로 급등했음. Sonnet 기준 약 $949, Opus 기준 약 $1,582가 불필요하게 더 지출된 셈.

타임라인으로 보는 TTL 변화

  • 1월 (Phase 1): 5분 TTL만 존재 — 아마 1시간 TTL 티어 자체가 API에 없던 시기
  • 2월 1일 ~ 3월 5일 (Phase 2): 1시간 TTL로 완전히 전환됨
    • 33일 연속, 두 대 머신 모두에서 5분 토큰이 0 — 노이즈가 아니라 의도적인 설정
    • 이 기간 비용 낭비율 1.1%로 사실상 제로
  • 3월 6~7일 (Transition): 5분 토큰이 다시 나타나기 시작
  • 3월 8일 이후 (Phase 4): 5분 TTL이 다시 지배적 — 3월 22일 하루에만 3천만 토큰이 5분 티어로 기록됨

5분 TTL이 이렇게 비싼 이유

  • 5분 TTL이면 코딩 중 잠깐 5분만 쉬어도 캐시가 전부 만료됨
    • 다음 턴에서 전체 컨텍스트를 cache_write 비용으로 다시 올려야 함
    • write 비용은 read의 12.5배 — Sonnet 기준 $3.75/MTok vs $0.30/MTok
  • 세션이 길고 컨텍스트가 클수록 패널티가 복리로 누적됨
    • 분석 기간 동안 2.2억 토큰이 5분 티어에 write 되었고, 그 토큰들이 57억 번 cache read에 사용됨
    • 1시간 TTL이었으면 대부분이 저렴한 read로 처리됐을 금액

구독 사용자 할당량(Quota)에도 직격탄

  • cache write 토큰은 할당량에 정가로 차감되는 반면, cache read는 훨씬 싸게 카운트됨
    • 3월 이후 처음으로 5시간 할당량 한도에 도달하는 구독자가 속출
    • 이슈 작성자 본인도 2026년 3월 전까지는 한 번도 할당량 한도를 쳐본 적이 없었음
  • Pro/Max 사용자들이 "갑자기 쿼터가 너무 빨리 소진된다"는 불만이 이 시점과 정확히 일치

작성자의 요청사항

  • Anthropic에 TTL 변경 여부 공식 확인/부인 요청
  • 5분이 의도된 기본값인지, 1시간이 영구적 의도였는지 명확한 답변 요구
  • 1시간 TTL 복원 또는 사용자 설정 가능한 옵션으로 노출 제안
  • cache_read 토큰의 할당량 카운팅 방식 공개 요청

💡

> Claude Code 비용이 3월부터 갑자기 늘었다면, 이 TTL 변경이 원인일 가능성이 높음. 세션 JSONL 파일의 ephemeral_5m_input_tokens / ephemeral_1h_input_tokens 값을 확인해보면 본인 계정의 영향도를 파악할 수 있음.


기술 맥락

  • 프롬프트 캐시(Prompt Cache)는 LLM API 호출 시 시스템 프롬프트나 이전 대화 컨텍스트를 서버에 일정 시간 저장해두는 기능이에요. 매번 전체 토큰을 새로 보내는 대신 캐시된 부분은 저렴한 read 비용만 내면 되거든요.
  • TTL(Time To Live)은 이 캐시가 얼마나 오래 살아있느냐의 문제인데, Claude Code처럼 긴 코딩 세션에서는 이게 치명적이에요. 코드 리뷰하다 커피 한 잔 마시고 오면 5분은 금방 지나거든요. 그 사이에 캐시가 만료되면 수만 토큰의 컨텍스트를 write 비용(read의 12.5배)으로 다시 올려야 해요.
  • 이 이슈가 흥미로운 건 분석 방법론이에요. Claude Code가 ~/.claude/projects/ 아래 JSONL 파일에 모든 API 호출 메타데이터를 남기는데, 여기에 캐시 티어별 토큰 사용량이 기록되거든요. 두 대의 독립된 머신에서 동일한 패턴을 확인함으로써 클라이언트 문제가 아닌 서버사이드 변경임을 입증한 게 깔끔해요.
  • 할당량(Quota) 이슈도 연결되어 있어요. Pro/Max 구독은 비용이 아니라 할당량으로 제한되는데, cache write가 정가로 차감되니까 TTL이 짧아지면 같은 작업을 해도 할당량이 훨씬 빨리 소진돼요. "갑자기 쿼터가 빨리 닳는다"는 불만의 근본 원인이 여기 있었던 거예요.

Claude Code 사용자라면 3월 이후 비용 급증의 원인을 알 수 있는 핵심 분석. 서버사이드 설정 변경 하나가 사용자 비용에 미치는 영향을 데이터로 입증한 좋은 사례임.

댓글

댓글

댓글을 불러오는 중...

devops

메타, 루이지애나 AI 데이터센터를 5기가와트급으로 키운다

메타가 미국 루이지애나주 리치랜드 패리시에 짓는 하이페리온 데이터센터의 컴퓨팅 용량을 5기가와트 규모로 확대한다. 투자액도 기존 270억 달러에서 500억 달러 이상으로 커졌고, 2027년까지 전체 컴퓨팅 용량 14기가와트를 목표로 하는 AI 인프라 전략의 일부로 해석된다.

devops

오케스트로, 모로코 관세청에 AI·클라우드 네이티브 전환 노하우 공유

오케스트로 클라우드가 모로코 관세청 고위 공무원과 IT 전문가 10명을 한국으로 초청해 AI·클라우드 네이티브 기반 관세행정 고도화 연수를 진행했다. 핵심은 AI 기반 위험관리, 모놀리식 시스템의 MSA·쿠버네티스 전환, 클라우드 관리 플랫폼을 활용한 공공 시스템 운영 효율화다.

devops

오케스트로, 모로코 관세청에 AI·클라우드 네이티브 전환 노하우 전수

오케스트로 클라우드가 모로코 관세청 고위 공무원과 IT 전문가 10명을 초청해 AI·클라우드 네이티브 기반 관세행정 고도화 연수를 진행했다. 교육은 AI 위험관리, 모놀리식 시스템의 MSA·쿠버네티스 전환, 클라우드 관리 플랫폼 활용 사례에 초점을 맞췄다.

devops

NHN, 양평 AI 데이터센터 가동으로 클라우드 매출 확대 기대

한국투자증권이 NHN의 클라우드 매출 확대와 실적 개선 전망을 근거로 목표주가를 4만5000원에서 5만6000원으로 올렸다. NHN은 양평 데이터센터에 약 7600장 규모의 AI 전용 GPU 인프라를 구축했고, 2분기부터 실적에 반영될 것으로 전망됐다.

devops

빅테크 AI 인프라, 이제는 빚으로 버티는 구간에 들어감

AI 데이터센터 투자가 폭증하면서 빅테크들이 올해에만 수백조 원 규모의 회사채를 발행했다. 시장은 이제 AI 기대감보다 실제 현금 창출력과 부채 상환 능력을 묻기 시작했고, 자체 칩과 비용 절감이 생존 전략으로 떠오르고 있다.