--- title: "카페24는 120개 모델 라우터, 델은 랙당 GPU 144개 서버…국내 AI 인프라 뉴스 몰아보기" published: 2026-06-23T08:26:04.412Z canonical: https://jeff.news/article/4261 --- # 카페24는 120개 모델 라우터, 델은 랙당 GPU 144개 서버…국내 AI 인프라 뉴스 몰아보기 카페24가 120여 개 AI 모델을 단일 API로 묶는 LLM 라우터를 내놨고, 델은 엔비디아 베라 루빈 NVL4 기반 슈퍼컴 서버 XE8812를 공개했다. 오픈AI의 기업용 AI는 삼성전자와 서울대 도입 사례로 국내 확산 흐름이 뚜렷해졌고, 신세계I&C는 게임 IP 콘솔 패키지 출시를 예고했다. - 오늘 클라우드·AI 업계 뉴스는 한 줄로 요약하면 “모델도 많고, GPU도 더 빽빽해지고, 기업 도입도 커지고 있음”임 - 카페24는 LLM 라우터를 출시했고, 델은 차세대 슈퍼컴 서버를 공개함 - 오픈AI는 삼성전자·서울대 같은 대형 조직 도입 사례를 확보했고, 신세계I&C는 게임 IP 콘솔 패키지 출시 소식을 냄 - 카페24의 LLM 라우터는 120여 개 AI 모델을 하나의 API로 묶는 제품임 - 연결 대상에는 챗GPT, 클로드, 제미나이, 딥시크, 큐원, 라마 등이 들어감 - 사용자가 요청을 보내면 라우팅 엔진이 코딩, 추론, 번역, 창작 같은 작업 유형을 보고 적합한 모델로 넘기는 구조임 - 미리 사용할 모델 범위를 정해두면 그 안에서만 자동 연결돼서, 매번 모델별 성능과 비용을 사람이 비교하지 않아도 됨 - 이 라우터의 포인트는 “모델 선택”보다 “운영 자동화”에 가까움 - 같은 모델을 여러 AI 서비스 제공사가 제공할 때 비용, 속도, 처리량 기준으로 제공사를 자동 선택할 수 있음 - 특정 제공사를 허용하거나 막는 화이트리스트·블랙리스트도 지원함 - 특정 모델이 응답하지 않으면 미리 지정한 대체 모델이 이어받는 자동 전환 기능도 있음 > [!IMPORTANT] > AI 서비스를 실제 프로덕션에 붙이면 모델 성능만큼 중요한 게 비용, 장애 전환, 제공사 정책임. LLM 라우터는 그 골치 아픈 운영 문제를 API 계층에서 처리하겠다는 방향에 가까움. - 델은 고성능컴퓨팅과 AI용 서버인 파워엣지 XE8812를 공개함 - 엔비디아 베라 루빈 NVL4 아키텍처를 채용했고, 델 파워랙 9100에서 랙당 최대 144개 GPU를 탑재할 수 있음 - 전력은 300킬로와트 이상을 지원하고, CPU와 GPU 모두 100% 다이렉트 리퀴드 쿨링 기반으로 설계됨 - 팬리스 방식의 직접 액체 냉각이라 분자 역학, 다중 물리 시뮬레이션 같은 빡센 연구 워크로드가 주요 타깃임 - 이전 세대인 엔비디아 GB200 NVL4 대비 스펙도 꽤 공격적으로 올라감 - 베라 루빈 NVL4 전환으로 호스트 메모리가 확장되고 코어 수는 144개에서 176개로 늘어남 - 소켓당 메모리와 GPU 메모리는 이전 세대 대비 50% 증가했다고 밝힘 - 델은 이 서버를 기반으로 소버린 AI, 엔지니어링·디자인 워크플로우, 유전체 과학 같은 분야의 AI 팩토리를 확장하겠다는 그림임 - 오픈AI의 기업용 AI는 국내에서도 조직 단위 도입으로 넘어가는 중임 - 삼성전자는 임직원 업무에 챗GPT 엔터프라이즈와 코덱스를 도입하기 시작함 - 서울대는 전 구성원 약 4만7000명에게 챗GPT 에듀를 제공하기로 함 - 이제 생성형 AI가 개인 생산성 도구가 아니라, 데이터·권한·보안·업무 절차 안에 들어가는 조직 운영 도구가 되고 있다는 얘기임 - 오픈AI가 인용한 업무 시간 수치도 꽤 현실적임 - 맥킨지 글로벌 인스티튜트 연구에 따르면 평균 지식 근로자는 업무 주간의 약 28%를 이메일 관리에 씀 - 내부 정보 검색이나 도와줄 동료를 찾는 데도 약 20%를 쓴다고 함 - 기업용 AI가 노리는 지점은 결국 “사람이 하루 종일 뒤지는 업무 맥락”을 줄이는 쪽임 - 신세계I&C는 게임 IP 2종의 콘솔 패키지를 글로벌 독점 출시함 - 대상은 드림모션의 마이 리틀 퍼피와 스튜디오 두달의 솔라테리아임 - 두 게임은 스팀에서 각각 압도적으로 긍정적, 매우 긍정적 평가를 받은 타이틀임 - 마이 리틀 퍼피는 닌텐도와 PS5용으로 6월 25일 출시되고, 솔라테리아는 닌텐도용으로 7월 23일 발매됨 - 가격은 마이 리틀 퍼피 초회판 3만9800원·한정판 8만4800원, 솔라테리아 초회판 3만4800원·한정판 6만9800원임 --- ## 기술 맥락 - LLM 라우터가 중요한 이유는 모델이 너무 많아졌기 때문이에요. 팀마다 챗GPT, 클로드, 제미나이, 라마를 직접 비교해서 붙이면 처음엔 빠른데, 비용 정책과 장애 대응이 쌓이는 순간 운영 부담이 확 커지거든요. - 카페24 방식은 모델 선택을 애플리케이션 코드에서 빼서 라우팅 계층으로 옮기는 선택이에요. 요청 유형을 보고 코딩, 추론, 번역, 창작에 맞는 모델을 고르고, 제공사별 비용·속도·처리량까지 반영하겠다는 거라서 일종의 LLM 오케스트레이션에 가까워요. - 델 XE8812 쪽은 완전히 다른 레이어의 이야기지만, 같은 AI 인프라 문제를 다뤄요. 모델을 잘 고르는 것도 중요하지만, 랙당 GPU 144개와 300킬로와트 이상 전력 같은 숫자가 말해주듯 대규모 AI는 결국 전력, 냉각, 메모리 밀도의 싸움이거든요. - 삼성전자와 서울대 사례는 도입 단위가 개인에서 조직으로 커졌다는 점이 핵심이에요. 기업용 AI는 계정만 뿌리는 게 아니라 권한, 보안, 데이터 접근, 업무 절차를 같이 설계해야 해서 개발 조직도 사내 AI 플랫폼 관점으로 접근할 필요가 있어요. ## 핵심 포인트 - 카페24 LLM 라우터는 챗GPT, 클로드, 제미나이, 딥시크, 큐원, 라마 등 120여 개 모델을 단일 API로 연결 - 델 파워엣지 XE8812는 랙당 최대 144개 GPU와 300킬로와트 이상 전력, CPU·GPU 100% 직접 액체 냉각을 지원 - 삼성전자는 챗GPT 엔터프라이즈와 코덱스를 업무에 도입하고, 서울대는 약 4만7000명에게 챗GPT 에듀를 제공 - 신세계I&C는 마이 리틀 퍼피와 솔라테리아 콘솔 패키지를 글로벌 독점 출시 ## 인사이트 국내 AI 도입 뉴스가 이제 모델 사용기 수준을 넘어 라우팅, 서버 밀도, 조직 배포, 교육기관 도입까지 한 번에 움직이는 단계로 넘어간 느낌이 강해. 개발자 입장에선 어떤 모델을 쓰느냐보다 어떻게 비용·성능·권한·장애 전환을 운영 체계 안에 넣느냐가 더 중요해지고 있음.