퍼플렉시티, 중국 오픈소스 모델로 에이전트 추론비를 오푸스의 3분의 1 수준까지 낮춤

• 퍼플렉시티가 중국 Z.ai의 오픈소스 모델 GLM 5.2를 후속학습한 모델을 연구 프리뷰로 공개함

  • 대상은 퍼플렉시티의 ‘컴퓨터’ 에이전트 환경임
  • 이 모델은 퍼플렉시티 내부 프로덕션 환경에서 연구 프리뷰 형태로 제공됨
  • 회사 설명에 따르면 앤트로픽 클로드 오푸스4.8급에 가까운 성능을 훨씬 낮은 비용으로 내는 게 목표임

• 핵심 구조는 “싼 모델을 기본값으로 쓰고, 어려운 것만 비싼 모델로 넘긴다”임

  • GLM 5.2가 대부분의 작업을 직접 처리함
  • 어드바이저 도구가 붙어서 자체 처리할 작업과 클로드 오푸스4.8로 넘길 작업을 구분함
  • 난도가 높은 일부 작업만 오푸스4.8로 이관하는 식이라, 고비용 모델을 모든 요청에 태우지 않음

sequenceDiagram
    participant 사용자
    participant 퍼플렉시티_에이전트
    participant GLM_모델
    participant 어드바이저
    participant 오푸스_모델
    사용자->>퍼플렉시티_에이전트: 작업 요청
    퍼플렉시티_에이전트->>GLM_모델: 기본 처리 요청
    GLM_모델->>어드바이저: 자체 처리 가능 여부 판단
    어드바이저-->>GLM_모델: 쉬운 작업은 계속 처리
    어드바이저->>오푸스_모델: 어려운 작업만 이관
    오푸스_모델-->>퍼플렉시티_에이전트: 고난도 결과 반환
    GLM_모델-->>퍼플렉시티_에이전트: 기본 결과 반환

• 비용 수치가 꽤 노골적임
  • 퍼플렉시티는 후속학습 모델 비용이 오푸스의 0.344배 수준이라고 설명함
  • 내부 효율 지표 기준으로 어드바이저가 붙은 후속학습 모델은 기본 GLM 5.2보다 운영비가 약 2배 듦
  • 그래도 모든 작업을 오푸스4.8로 처리하는 방식과 비교하면 비용은 약 600% 낮다고 밝힘

• GLM 5.2 자체도 꽤 큰 모델임

  • Z.ai가 지난 6월 MIT 라이선스로 공개함
  • 약 7,440억 개 매개변수 규모의 개방형 가중치 모델임
  • 누구나 내려받아 수정하거나 상업적으로 후속학습할 수 있는 조건이라, 퍼플렉시티가 자사 목적에 맞게 손볼 수 있었음

• 퍼플렉시티가 중국 오픈소스 모델을 후속학습한 건 이번이 처음이 아님

  • 최근 18개월 사이 두 번째 사례임
  • 앞서 딥시크 R1 기반 ‘R1-1776’도 공개한 적이 있음
  • 새 모델은 미국 내 엔비디아 B200 GPU에서 구동된다고 밝힘

• 아직 완결판은 아니고, 전체 벤치마크와 논문은 몇 주 안에 공개될 예정임

  • 지금은 연구 프리뷰 단계라 외부에서 성능 주장을 세부적으로 검증하긴 이름
  • 그래도 방향성은 분명함: 에이전트 시스템에서 모델 하나로 모든 걸 해결하는 대신, 여러 모델을 비용과 난이도 기준으로 조합하는 쪽임
  • AI 서비스 운영하는 팀이라면 “우리도 어떤 요청까지는 저렴한 모델로 충분한가?”를 바로 떠올릴 만한 사례임

기술 맥락

• 퍼플렉시티가 고른 방식은 단순한 모델 교체가 아니에요. 클로드 오푸스4.8 같은 고비용 모델을 전면에 세우는 대신, GLM 5.2를 기본 처리층으로 두고 필요할 때만 오푸스를 부르는 구조예요.

• 왜 이게 중요하냐면 에이전트 서비스는 요청 하나가 모델 호출 한 번으로 끝나지 않는 경우가 많거든요. 작업을 나누고, 도구를 호출하고, 중간 판단을 반복하다 보면 추론비가 빠르게 불어나요.

• 어드바이저 도구는 이 비용 문제를 줄이기 위한 라우터 역할을 해요. GLM 5.2가 감당할 수 있는 작업은 자체 처리하고, 더 강한 추론이 필요한 작업만 오푸스로 넘기는 식이라 전체 평균 비용을 낮출 수 있어요.

• GLM 5.2가 MIT 라이선스의 개방형 가중치 모델이라는 점도 핵심이에요. 퍼플렉시티가 자사 컴퓨터 에이전트 환경에 맞게 후속학습하고, 미국 내 B200 GPU에서 운영하는 식의 커스터마이징이 가능했기 때문이에요.

• 결국 이 사례는 “가장 좋은 모델 하나”보다 “좋은 모델 조합과 라우팅 정책”이 더 중요해지는 흐름을 보여줘요. 한국에서 AI 에이전트나 개발자 도구를 만드는 팀도 비용 구조를 설계할 때 꽤 참고할 만해요.