기업 AI, 모델 다변화는 했는데 통제는 아직 구멍투성이다

• 기업들이 AI 모델 벤더 종속에서는 꽤 빨리 벗어나고 있음

  • 벤처비트 펄스 리서치의 ‘통제 격차(The Control Gap)’ 보고서에 따르면, 글로벌 기업 상당수는 이미 하나의 모델에만 기대지 않는 전략을 채택함
  • 앤트로픽 ‘클로드 페이블 5’ 서비스 중단 사태가 오기 전부터 이런 흐름이 진행되고 있었다는 점이 포인트임

• 조사 규모는 작지만 시사점은 꽤 선명함

  • 6월 한 달 동안 글로벌 기업 고위 기술직 및 임원 145명을 대상으로 조사함
  • 응답 기업의 51%는 폐쇄형 프론티어 모델과 자체 인프라의 오픈소스 모델을 섞는 하이브리드 전략을 쓰고 있다고 답함
  • 16%는 폐쇄형 API에서 완전히 벗어나 기업 내부에 AI 시스템을 구축한 상태였음

• 반대로 아직 폐쇄형 생태계에 전적으로 의존하는 기업도 32%나 됨

  • 이 기업들은 특정 모델이 정책, 비용, 장애, 수출 통제 같은 이유로 막히면 바로 영향을 받을 수 있음
  • 기사에서 언급된 클로드 페이블 5 중단 사태는 이런 리스크를 드러낸 사례로 다뤄짐

• 리버티 뮤추얼 사례는 멀티 모델 전략이 왜 필요한지 보여줌

  • 아일랜드에 있는 브라이언 크레이그 아키텍처 총괄 디렉터도 미국 정부 수출 통제 명령 때문에 접근 제한 영향을 받을 수 있었음
  • 하지만 회사가 특정 벤더나 프레임워크에 묶이지 않는 AI 백본을 만들어둔 덕분에 다른 모델로 빠르게 경로를 바꿀 수 있었다고 설명함
  • 그 배경에는 앤트로픽 모델의 높은 비용 문제도 있었음

• 앞으로 줄일 가능성이 큰 AI 벤더로 마이크로소프트가 가장 많이 꼽힘

  • 응답자의 30%가 향후 12개월 안에 규모를 줄이거나 단계적으로 퇴출할 가능성이 높은 벤더로 마이크로소프트를 선택함
  • 코파일럿과 애저를 거치는 대신, 기반 모델에 직접 접근하려는 기업 선호가 커지고 있다는 분석임
  • 오픈AI는 가격 문제로 21%, 앤트로픽은 15%, 구글은 6%를 기록함

• 진짜 구멍은 내부 통제에서 드러남

  • AI 오작동이나 오류를 자동으로 감지하는 모니터링 시스템을 갖춘 기업은 전체의 10%에 불과함
  • 30%는 여전히 사람이 직접 출력을 수동 검토함
  • 25%는 최종 사용자가 오류를 신고해야 그제야 문제를 알게 되는 상태임

• 자율 에이전트는 이미 돈으로 사고를 치고 있음

  • 자율 에이전트 통제 실패로 재정적·운영적 손실을 경험한 기업이 79%에 달함
  • 이 중 회사 허락 없이 부서나 개인이 AI를 쓰는 ‘섀도우 AI’로 손해를 본 경우가 49%로 가장 많음
  • 사용자가 모르는 사이 에이전트가 무한 루프를 돌며 단일 업무에서 수천달러의 토큰 비용을 만든 경우도 25%였음

• 거버넌스가 안 잡히는 이유는 기술보다 조직 문제에 가까움

  • 플랫폼 전반의 AI를 관리할 단일 책임자나 전담 팀이 없다고 답한 비율이 32%로 가장 높음
  • 여러 AI 플랫폼이 섞인 상황에서 중앙 팀이 AI 동작을 제어하는 기업은 38%에 그침
  • 즉 모델은 다양해졌는데, 운영 책임은 아직 흐릿한 상태임

• 더 위험한 건 이런 상태에서도 AI 프로젝트는 계속 늘어난다는 점임

  • 응답 기업의 58%는 기존 문제 해결보다 신규 AI 프로젝트 확장에 더 공격적으로 나서고 있음
  • 85%의 기업에서는 부서마다 서로 다른 솔루션을 ‘주요 AI 플랫폼’이라고 주장하며 운영하는 혼선이 나타남

• 결론은 꽤 현실적임

  • 기업들은 외부 벤더 리스크에는 빠르게 적응하고 있음
  • 하지만 내부 거버넌스, 모니터링, 책임 구조는 아직 한참 부족함
  • AI 책임 담당자를 지정하는 건 비싼 툴을 사는 일도 아닌데, 이 기본이 비어 있다는 게 더 아픈 지점임

---

기술 맥락

• 기업들이 멀티 모델 전략으로 가는 이유는 단순히 모델 성능 비교 때문만은 아니에요. 비용, 장애, 정책 변화, 수출 통제처럼 기술 밖의 변수로 특정 모델 접근이 막힐 수 있기 때문에, 라우팅 가능한 AI 백본을 만들어두는 게 운영 리스크를 줄여줘요.

• 하지만 모델을 여러 개 붙이면 통제 지점도 같이 늘어나요. 어떤 요청이 어느 모델로 갔는지, 출력 품질은 어땠는지, 비용은 누가 부담하는지 추적하지 못하면 멀티 모델은 유연성이 아니라 혼란이 되거든요.

• 자율 에이전트가 특히 위험한 이유는 한 번의 답변으로 끝나지 않기 때문이에요. 도구를 호출하고, 다시 판단하고, 또 실행하는 루프가 생기면 작은 프롬프트 실수도 비용과 운영 사고로 커질 수 있어요.

• 그래서 이 기사에서 말하는 거버넌스는 문서상 원칙이 아니라 운영 시스템에 가까워요. 중앙 책임자, 자동 모니터링, 비용 한도, 모델 사용 로그가 같이 있어야 부서별 AI 실험이 회사 전체 리스크로 번지는 걸 막을 수 있어요.