본문으로 건너뛰기
피드

오픈AI, 챗GPT 토큰값 확 낮추나…클로드 코드 압박이 세다

ai-ml 약 5분
vote
0
댓글
북마크

오픈AI가 챗GPT와 API 과금 기준인 토큰 요금을 크게 낮추는 방안을 검토 중인 것으로 알려졌다. 앤트로픽의 클로드 코드가 개발자 시장에서 치고 올라오고, 기업 고객들이 토큰 비용 부담을 크게 느끼면서 가격 경쟁이 본격화되는 분위기다.

  • 1

    오픈AI가 토큰 단가 대폭 인하를 검토 중

  • 2

    배경에는 앤트로픽의 가격 인하 가능성과 클로드 코드의 개발자 시장 선전이 있음

  • 3

    샘 올트먼은 AI 비용이 거대한 문제라고 언급

  • 4

    오픈AI와 앤트로픽은 이미 수십억 달러 규모 손실을 감수하며 컴퓨팅 비용을 쓰는 중

  • 5

    일부 기업은 에이전트형 AI 예산을 이미 소진했고 토큰 지출 통제에 나섬

  • 오픈AI가 챗GPT와 API 요금의 핵심 단위인 토큰 가격을 크게 낮추는 방안을 검토 중이라는 보도가 나옴

    • 토큰은 AI가 입력을 읽고 출력을 만들 때 쓰는 사용량 단위임
    • 기업 고객 입장에서는 이 단가가 곧 AI 도입 비용의 체감 가격이 됨
  • 배경에는 앤트로픽 압박이 있음

    • WSJ가 인용한 소식통들에 따르면, 오픈AI는 앤트로픽도 비슷한 수준의 가격 인하를 할 가능성에 대비하고 있음
    • 앤트로픽의 클로드 코드가 소프트웨어 엔지니어들 사이에서 좋은 평가를 받으면서 기업 고객 쪽에서 존재감이 커진 상황임
  • 코딩 도구 경쟁도 꽤 노골적으로 붙었음

    • 챗GPT로 대중 시장을 연 오픈AI는 클로드 코드를 따라잡기 위해 자체 코딩 도구인 코덱스를 역점 사업으로 밀고 있음
    • 앤트로픽은 2021년 오픈AI 출신 연구원들이 만든 회사인데, 클로드 코드 덕분에 최근 기업가치 평가액이 오픈AI를 넘어섰다는 보도까지 나옴

중요

> 가격 인하는 개발자에게는 좋은 소식이지만, 오픈AI와 앤트로픽 둘 다 이미 수십억 달러 규모 손실을 감수하며 컴퓨팅 비용을 쓰고 있다는 게 문제임.

  • 샘 올트먼도 비용 문제가 커졌다는 점을 인정함

    • 최근 행사에서 AI 비용이 “거대한 문제”가 됐다고 말함
    • 동시에 사람들이 더 적은 비용으로 더 많은 가치를 얻도록 도울 방법이 많을 것이라고 언급함
  • 기업 고객들은 이미 토큰비 압박을 체감 중임

    • 생산성 향상을 위해 AI 도구를 쓰긴 하는데, 그만큼 토큰 사용량이 폭증한다는 불만이 나옴
    • 우버 등 일부 기업에서는 올해 에이전트형 AI 예산이 이미 소진됐다는 보도도 있었음
    • 일부 기업은 앤트로픽 제품 사용 비용이 과도하다고 보고 임직원 토큰 지출 통제에 들어감
  • 개발자 문화 쪽에서는 ‘토큰맥싱’이라는 말까지 등장함

    • 토큰 사용량을 임직원 생산성 평가에 반영하는 관행을 가리키는 표현임
    • 문제는 이런 식으로 AI 사용량을 밀어붙이면, 실제 성과보다 토큰 소비가 먼저 튈 수 있다는 점임
  • 결국 이번 가격 인하 검토는 단순 할인 이벤트가 아니라 코딩 에이전트 시장의 생존 조건에 가까움

    • 코딩 에이전트는 긴 코드베이스를 읽고, 여러 파일을 고치고, 테스트 결과까지 반영하니 토큰을 많이 먹을 수밖에 없음
    • 단가가 충분히 내려가지 않으면 기업은 “좋긴 한데 마음 놓고 못 쓰는 도구”로 볼 가능성이 큼

기술 맥락

  • 토큰 가격이 중요한 이유는 코딩 에이전트가 일반 챗봇보다 훨씬 많은 컨텍스트를 읽기 때문이에요. 코드 파일, 로그, 테스트 출력, 이전 대화까지 계속 넣다 보면 질문 하나가 생각보다 큰 연산으로 바뀌거든요.

  • 오픈AI가 가격 인하를 검토하는 건 클로드 코드와 코덱스 경쟁에서 사용량 장벽을 낮추려는 선택으로 볼 수 있어요. 개발자가 자주 돌릴수록 가치가 커지는 도구라서, 호출할 때마다 비용 걱정이 들면 워크플로에 깊게 들어가기 어렵거든요.

  • 기업 입장에서는 이 비용이 구독료라기보다 클라우드 사용료처럼 움직여요. 사람이 많아지고 에이전트가 여러 단계를 자동 실행할수록 토큰 지출이 튀기 때문에, 예산 통제와 생산성 측정이 같이 따라붙을 수밖에 없어요.

  • 그래서 가격 경쟁은 모델 회사의 마진을 깎는 문제이기도 해요. 두 회사 모두 컴퓨팅 자원에 막대한 비용을 쓰고 있어서, 단가를 낮추면 고객 확장은 쉬워지지만 손실 압박은 더 커질 수 있거든요.

코딩 에이전트 시장은 모델 성능만큼이나 ‘얼마나 마음 놓고 돌릴 수 있느냐’가 승부처가 됐음. 개발자가 AI를 진짜 워크플로에 넣을수록 토큰비는 SaaS 구독료가 아니라 클라우드 인프라 비용처럼 보이기 시작함.

댓글

댓글

댓글을 불러오는 중...

ai-ml

알파벳, 클라우드 82% 성장했지만 AI 인프라 투자로 현금흐름 첫 적자

알파벳이 2분기 매출 1198억 달러를 기록하며 시장 전망을 넘겼고, 클라우드 매출은 82% 급증한 248억 달러까지 뛰었다. 하지만 AI 인프라에 분기 449억 달러를 투입하면서 잉여현금흐름은 2004년 상장 이후 처음으로 분기 적자를 냈다.

ai-ml

알파벳 클라우드 매출 82% 폭증했는데, 클라우드 ETF는 왜 빠졌나

알파벳의 2분기 클라우드 매출이 전년 대비 82% 늘며 월가 예상치를 크게 넘었지만, 클라우드 관련 ETF는 오히려 하락했다. 시장은 이제 클라우드 매출 성장률만 보는 게 아니라, 그 매출을 만들기 위해 데이터센터와 칩에 얼마나 많은 자본지출이 들어갔는지를 따지고 있다.

ai-ml

젠슨 황 “중국산 오픈소스 AI, 좋으면 써야 한다”

젠슨 황 엔비디아 CEO가 미국 정부의 중국산 오픈소스 AI 모델 규제 움직임에 반대했다. 딥시크, 알리바바, 문샷 AI 같은 중국 모델이 백도어라는 우려는 오해에 가깝고, 좋은 오픈소스 모델은 기업들이 활용할 수 있어야 한다는 주장이다.

ai-ml

업스테이지 ‘솔라 오픈 2’ 공개, 한국어·에이전트 성능으로 독파모 2라운드 승부

업스테이지가 오픈웨이트 LLM ‘솔라 오픈 2’를 공개했다. 2500억 매개변수 중 150억 개만 활성화하는 MoE 구조, 100만 토큰 컨텍스트, H200 2장 구동 가능성을 앞세워 한국어·에이전트·기업 도입성을 동시에 노린 모델이다.

ai-ml

아이벡스, 오픈소스 로봇·비전으로 볼트 검사 투입 자동화한다

아이벡스가 정보통신산업진흥원의 오픈소스 사업화 과제에 선정돼 케이피에프의 자분탐상 검사라인 자동화에 들어간다. 벌크 상태로 쏟아지는 볼트류를 AI 비전으로 인식하고, 6D 자세 추정과 로봇 제어로 집어서 검사장비에 넣는 흐름까지 구현하는 게 핵심이다.