---
title: "기업 AI, 모델 다변화는 했는데 통제는 아직 구멍투성이다"
published: 2026-07-05T08:16:02.941Z
canonical: https://jeff.news/article/4647
---
# 기업 AI, 모델 다변화는 했는데 통제는 아직 구멍투성이다

벤처비트 펄스 리서치 조사에 따르면 글로벌 기업 다수는 이미 특정 AI 모델에만 의존하지 않는 멀티 모델 전략으로 이동하고 있다. 하지만 자동화된 모니터링과 거버넌스는 크게 부족해, 자율 에이전트와 섀도우 AI로 인한 손실이 본격적으로 드러나고 있다.

- 기업들이 AI 모델 벤더 종속에서는 꽤 빨리 벗어나고 있음
  - 벤처비트 펄스 리서치의 ‘통제 격차(The Control Gap)’ 보고서에 따르면, 글로벌 기업 상당수는 이미 하나의 모델에만 기대지 않는 전략을 채택함
  - 앤트로픽 ‘클로드 페이블 5’ 서비스 중단 사태가 오기 전부터 이런 흐름이 진행되고 있었다는 점이 포인트임

- 조사 규모는 작지만 시사점은 꽤 선명함
  - 6월 한 달 동안 글로벌 기업 고위 기술직 및 임원 145명을 대상으로 조사함
  - 응답 기업의 51%는 폐쇄형 프론티어 모델과 자체 인프라의 오픈소스 모델을 섞는 하이브리드 전략을 쓰고 있다고 답함
  - 16%는 폐쇄형 API에서 완전히 벗어나 기업 내부에 AI 시스템을 구축한 상태였음

- 반대로 아직 폐쇄형 생태계에 전적으로 의존하는 기업도 32%나 됨
  - 이 기업들은 특정 모델이 정책, 비용, 장애, 수출 통제 같은 이유로 막히면 바로 영향을 받을 수 있음
  - 기사에서 언급된 클로드 페이블 5 중단 사태는 이런 리스크를 드러낸 사례로 다뤄짐

- 리버티 뮤추얼 사례는 멀티 모델 전략이 왜 필요한지 보여줌
  - 아일랜드에 있는 브라이언 크레이그 아키텍처 총괄 디렉터도 미국 정부 수출 통제 명령 때문에 접근 제한 영향을 받을 수 있었음
  - 하지만 회사가 특정 벤더나 프레임워크에 묶이지 않는 AI 백본을 만들어둔 덕분에 다른 모델로 빠르게 경로를 바꿀 수 있었다고 설명함
  - 그 배경에는 앤트로픽 모델의 높은 비용 문제도 있었음

- 앞으로 줄일 가능성이 큰 AI 벤더로 마이크로소프트가 가장 많이 꼽힘
  - 응답자의 30%가 향후 12개월 안에 규모를 줄이거나 단계적으로 퇴출할 가능성이 높은 벤더로 마이크로소프트를 선택함
  - 코파일럿과 애저를 거치는 대신, 기반 모델에 직접 접근하려는 기업 선호가 커지고 있다는 분석임
  - 오픈AI는 가격 문제로 21%, 앤트로픽은 15%, 구글은 6%를 기록함

> [!IMPORTANT]
> 기업 AI의 1차 문제는 “어느 모델을 쓰느냐”에서 “누가 통제하고 감시하느냐”로 넘어가고 있음.

- 진짜 구멍은 내부 통제에서 드러남
  - AI 오작동이나 오류를 자동으로 감지하는 모니터링 시스템을 갖춘 기업은 전체의 10%에 불과함
  - 30%는 여전히 사람이 직접 출력을 수동 검토함
  - 25%는 최종 사용자가 오류를 신고해야 그제야 문제를 알게 되는 상태임

- 자율 에이전트는 이미 돈으로 사고를 치고 있음
  - 자율 에이전트 통제 실패로 재정적·운영적 손실을 경험한 기업이 79%에 달함
  - 이 중 회사 허락 없이 부서나 개인이 AI를 쓰는 ‘섀도우 AI’로 손해를 본 경우가 49%로 가장 많음
  - 사용자가 모르는 사이 에이전트가 무한 루프를 돌며 단일 업무에서 수천달러의 토큰 비용을 만든 경우도 25%였음

- 거버넌스가 안 잡히는 이유는 기술보다 조직 문제에 가까움
  - 플랫폼 전반의 AI를 관리할 단일 책임자나 전담 팀이 없다고 답한 비율이 32%로 가장 높음
  - 여러 AI 플랫폼이 섞인 상황에서 중앙 팀이 AI 동작을 제어하는 기업은 38%에 그침
  - 즉 모델은 다양해졌는데, 운영 책임은 아직 흐릿한 상태임

- 더 위험한 건 이런 상태에서도 AI 프로젝트는 계속 늘어난다는 점임
  - 응답 기업의 58%는 기존 문제 해결보다 신규 AI 프로젝트 확장에 더 공격적으로 나서고 있음
  - 85%의 기업에서는 부서마다 서로 다른 솔루션을 ‘주요 AI 플랫폼’이라고 주장하며 운영하는 혼선이 나타남

- 결론은 꽤 현실적임
  - 기업들은 외부 벤더 리스크에는 빠르게 적응하고 있음
  - 하지만 내부 거버넌스, 모니터링, 책임 구조는 아직 한참 부족함
  - AI 책임 담당자를 지정하는 건 비싼 툴을 사는 일도 아닌데, 이 기본이 비어 있다는 게 더 아픈 지점임

---

## 기술 맥락

- 기업들이 멀티 모델 전략으로 가는 이유는 단순히 모델 성능 비교 때문만은 아니에요. 비용, 장애, 정책 변화, 수출 통제처럼 기술 밖의 변수로 특정 모델 접근이 막힐 수 있기 때문에, 라우팅 가능한 AI 백본을 만들어두는 게 운영 리스크를 줄여줘요.

- 하지만 모델을 여러 개 붙이면 통제 지점도 같이 늘어나요. 어떤 요청이 어느 모델로 갔는지, 출력 품질은 어땠는지, 비용은 누가 부담하는지 추적하지 못하면 멀티 모델은 유연성이 아니라 혼란이 되거든요.

- 자율 에이전트가 특히 위험한 이유는 한 번의 답변으로 끝나지 않기 때문이에요. 도구를 호출하고, 다시 판단하고, 또 실행하는 루프가 생기면 작은 프롬프트 실수도 비용과 운영 사고로 커질 수 있어요.

- 그래서 이 기사에서 말하는 거버넌스는 문서상 원칙이 아니라 운영 시스템에 가까워요. 중앙 책임자, 자동 모니터링, 비용 한도, 모델 사용 로그가 같이 있어야 부서별 AI 실험이 회사 전체 리스크로 번지는 걸 막을 수 있어요.

## 핵심 포인트

- 응답 기업 51%는 폐쇄형 프론티어 모델과 자체 오픈소스 모델을 섞어 쓰는 하이브리드 전략을 채택함
- AI 오작동을 감지하는 자동화 모니터링 시스템을 갖춘 기업은 10%에 그침
- 자율 에이전트 통제 실패로 재정적·운영적 손실을 겪은 기업은 79%에 달함

## 인사이트

기업들이 벤더 종속 리스크는 꽤 빨리 학습했지만, 정작 내부 운영 체계는 그 속도를 못 따라가고 있다. 한국 기업도 생성형 AI 도입을 부서별로 밀어붙이는 경우가 많아서, ‘누가 책임지고 통제하나’라는 질문을 지금 안 하면 나중에 비용 폭탄으로 돌아올 가능성이 크다.