---
title: "레드햇, GPU 운영 빼고 API 키로 쓰는 기업용 MaaS 밀기 시작"
published: 2026-05-14T08:05:03.430Z
canonical: https://jeff.news/article/2681
---
# 레드햇, GPU 운영 빼고 API 키로 쓰는 기업용 MaaS 밀기 시작

레드햇이 레드햇 AI 3.4의 핵심으로 서비스형 모델(MaaS)을 내세웠다. 기업이 GPU, 모델 배포, 추론 효율 관리에 직접 매달리지 않고 검증된 모델을 API처럼 쓰게 하겠다는 전략이다. vLLM, llm-d, 신원 제공자 기반 인증, 오픈AI 호환 인터페이스까지 묶어 엔터프라이즈용 AI 소비 모델로 포장했다.

- 레드햇이 레드햇 AI 3.4에서 제일 크게 미는 건 서비스형 모델(MaaS)임
  - 기업 개발자가 GPU를 직접 잡고, 모델을 배포하고, 추론 효율까지 튜닝하는 일을 줄이겠다는 방향
  - 레드햇 표현으로는 AI 팀이 모델과 리소스를 상품처럼 공유하고, 개발자는 API 키만 받아 앱 개발을 시작하는 구조임

- MaaS의 기술 기반은 vLLM 추론 서버와 llm-d 분산 추론 엔진임
  - 단순히 모델 목록을 보여주는 포털이 아니라, 고성능 추론 계층 위에 엔터프라이즈용 API 서비스를 얹겠다는 그림
  - 인터페이스는 오픈AI 호환 방식이라 기존 AI 앱 개발 흐름과 붙이기 쉽게 만든 쪽에 가깝다

- 엔터프라이즈에서 중요한 포인트는 역시 거버넌스임
  - 플랫폼 엔지니어는 선별·검증된 모델을 보안이 강화된 API 엔드포인트로 제공할 수 있음
  - 신원 제공자(IdP) 기반 인증과 연동해서 내부 모델과 외부 API를 하나의 통제 체계 안에서 관리하는 게 핵심
  - 이건 “모델 써도 돼?” “데이터 어디로 나가?” 같은 기업 내부 질문을 플랫폼 레벨에서 줄이려는 시도임

> [!IMPORTANT]
> 레드햇이 보는 기업 AI 병목은 모델 성능만이 아님. GPU 운영, 모델 배포, 인증, 비용, 거버넌스까지 묶어야 실제 업무 시스템에 들어갈 수 있다는 쪽임.

- 레드햇은 AI 라이프사이클 전체를 잡겠다는 메시지도 같이 냈음
  - 추론은 빠르고 유연하게, 데이터는 모델·에이전트에 연결하고, 에이전트는 거버넌스와 통제 아래 확장한다는 구성
  - 칼데이라 CTO는 고객이 AI 인프라뿐 아니라 데이터 관리와 추론 관리까지 다룰 수 있게 하는 데 집중한다고 설명함

- 발표의 배경에는 “기업은 GPU 만지고 싶어 하지 않는다”는 꽤 현실적인 판단이 있음
  - 많은 회사가 AI 앱은 만들고 싶지만, GPU 클러스터 운영이나 모델 효율 관리까지 직접 하고 싶어 하진 않음
  - 그래서 MaaS는 사내 개발자에게 친화적인 AI 소비 방식으로 포지셔닝됨

- 레드햇은 AI 말고도 고객 성향이 갈리는 운영 요구를 같이 짚었음
  - 어떤 고객은 24시간 이내 패치와 제로 보안 취약점(CVE) 수준의 빠른 대응을 원함
  - 반대로 어떤 고객은 잘 돌아가는 워크로드를 업그레이드하지 않고 오래 유지하길 원함
  - 그래서 레드햇 하드닝 이미지는 이미 출시했고, RHEL 포에버는 3분기 출시 예정임

---
## 기술 맥락

- 여기서 레드햇이 고른 선택은 “모델을 배포하는 제품”이 아니라 “모델을 사내 API 상품처럼 소비하게 만드는 플랫폼”이에요. 왜냐면 기업 AI에서 개발자 생산성을 막는 건 모델 호출 코드보다 GPU 확보, 인증, 배포, 비용 통제 같은 운영 문제인 경우가 많거든요.

- vLLM과 llm-d를 앞세운 것도 같은 맥락이에요. 대규모 언어 모델(LLM)은 데모처럼 한두 번 호출할 때와 여러 팀이 동시에 쓰는 상황의 난이도가 완전히 달라요. 그래서 추론 처리량과 분산 운영을 플랫폼 기본값으로 넣어야 MaaS라는 말이 설득력을 가져요.

- 신원 제공자(IdP) 연동은 개발 편의 기능이라기보다 통제 장치에 가까워요. 누가 어떤 모델을 쓰는지, 내부 모델과 외부 API가 어떤 정책 아래 호출되는지 남겨야 보안팀과 플랫폼팀이 승인할 수 있거든요.

- 개발자 입장에서는 이 흐름이 꽤 중요해요. 앞으로 사내 AI 앱을 만들 때 모델을 직접 띄우기보다, 회사가 승인한 모델 엔드포인트와 API 키를 받아서 붙이는 방식이 더 일반적인 개발 경험이 될 가능성이 커요.

## 핵심 포인트

- 레드햇 AI 3.4의 핵심은 GPU와 모델 운영 부담을 줄이는 서비스형 모델(MaaS)
- vLLM 추론 서버와 llm-d 분산 추론 엔진 위에 고성능 추론 계층을 구성
- 오픈AI 호환 API, 신원 제공자 인증, 내부 모델과 외부 API를 한 거버넌스 안에서 관리
- 하드닝 이미지와 RHEL 포에버로 보안 패치 선호 고객과 장기 안정성 선호 고객을 동시에 겨냥

## 인사이트

기업 AI의 병목이 모델 자체보다 운영, 보안, 비용 통제로 옮겨가고 있다는 걸 잘 보여주는 발표다. 개발자 입장에선 모델을 직접 띄우는 시대에서 사내 승인된 AI API를 골라 쓰는 시대로 가는 흐름이 더 빨라질 수 있다.