본문으로 건너뛰기
피드

기업 AI 에이전트가 너무 많아질 때, 답은 ‘오케스트레이션 레이어’라는 주장

ai-ml 약 9분
vote
0
댓글
북마크

엠클라우드브리지는 기업 내 AI 도구가 부서별로 따로 도입되며 생기는 ‘AI 사일로’를 문제로 짚고, 이를 묶는 중간 오케스트레이션 레이어를 제안한다. Ai 365는 MS 365·애저·패브릭 위에서 지식·데이터·업무·보안 에이전트를 통합 운영하는 엔터프라이즈 AI 플랫폼이다.

  • 1

    기업 AI 도입이 챗봇에서 멀티 에이전트 시스템으로 이동하면서 오케스트레이션 역량이 중요해지고 있다.

  • 2

    엠클라우드브리지는 MS 365, 애저, 패브릭 기반으로 지식·데이터·업무·보안 에이전트를 묶는 Ai 365를 내세운다.

  • 3

    인텐트 오케스트레이터, 에이전트 라우터, 컨텍스트 매니저가 요청별 에이전트 조합을 중앙에서 결정한다.

  • 4

    조직도 기반 권한 관리, 전자결재·그룹웨어 연동, 국문 규정 최적화가 국내 SaaS의 차별화 지점으로 제시됐다.

기업 AI가 늘어날수록 생기는 이상한 병목

  • 기업용 소프트웨어 시장에서 AI 도입 방식이 챗봇 중심에서 멀티 에이전트 시스템으로 옮겨가는 중임

    • 이제는 질문에 답하는 수준을 넘어 자료 탐색, 분석, 문서 작성, 업무 실행까지 여러 AI 에이전트가 나눠 처리하는 흐름임
    • 그래서 여러 AI 도구와 모델을 하나의 정책과 워크플로로 묶는 오케스트레이션 역량이 핵심 경쟁력으로 떠오름
  • 문제는 기업 안에 AI 도구가 너무 따로따로 들어간다는 것임

    • 그룹웨어, 전사자원관리(ERP), 제조실행시스템(MES), 고객관계관리(CRM) 위에 코파일럿, 챗봇, 분석 에이전트가 부서별로 붙음
    • 결과적으로 데이터와 워크플로는 연결되지 않고, AI 도구만 늘어나는 ‘AI 사일로’가 생김
    • 이러면 직원 입장에서는 AI가 많아졌는데 일은 여전히 끊겨 있음. 꽤 익숙한 엔터프라이즈 풍경임
  • 엠클라우드브리지는 이 사일로를 중간 레이어로 묶는 쪽에 기회를 보고 있음

    • 글로벌 빅테크와 모델 기능으로 정면승부하기보다, 조직도·권한·보안 정책·업무 흐름을 연결하는 상위 레이어를 만들겠다는 전략임
    • 국내 기업 특유의 결재 문화, 직급 체계, 부서 간 정보 경계를 AI 레이어에도 반영하는 방식임

Ai 365가 묶는 네 가지 에이전트

  • 엠클라우드브리지의 ‘Ai 365 엔터프라이즈 AI 플랫폼’은 MS 365·애저·패브릭 스택 위에 올라가는 구조임

    • 지식, 데이터, 업무, 보안 네 개 에이전트를 단일 체계로 통합 운영함
    • 국내 기업이 많이 쓰는 팀즈, 셰어포인트, 익스체인지 환경 위에 배치됨
    • 새 포털을 강제로 도입하기보다 기존 업무 환경에 AI 레이어를 덧입히는 접근임
  • 지식관리 에이전트는 내부 문서를 검색증강생성(RAG) 기반으로 다룸

    • 사규, 매뉴얼, 계약서, 보고서 같은 문서를 Q&A, 요약, 사례 검색에 활용함
    • 문서 접수, 메타데이터 관리, 보안 정책 적용, 전처리, AI 질의응답까지 한 흐름으로 처리함
    • 사용자는 팀즈와 전용 앱에서 문서 등록·조회와 AI 질의를 할 수 있음
  • 데이터 에이전트는 자연어를 SQL로 바꿔 분석 리포트와 차트를 만드는 생성형 BI 역할을 함

    • ERP, MES, CRM, HR, 사물인터넷(IoT) 데이터를 MS 패브릭, 데이터브릭스, 스노우플레이크 위에서 통합 처리함
    • 텍스트, 표, 차트, 경영 리포트를 자연어 질문 하나로 뽑아내는 환경을 지향함
  • 업무지원 에이전트와 보안 에이전트는 실제 운영 흐름을 잡는 쪽임

    • 업무지원 에이전트는 전자결재, 회의록, 메일 초안, 업무 요청 티켓을 팀즈 기반 워크플로와 연결함
    • 보안 에이전트는 엔트라 ID, EMS, 퍼뷰와 연동해 AI 질의응답 단계에서도 역할 기반 접근 제어(RBAC)와 속성 기반 접근 제어(ABAC)를 적용함
sequenceDiagram
    participant 사용자
    participant 오케스트레이터
    participant 지식에이전트
    participant 데이터에이전트
    participant 업무에이전트
    participant 보안에이전트
    사용자->>오케스트레이터: 고객 클레임 분석과 개선안 보고서 요청
    오케스트레이터->>보안에이전트: 사용자 권한과 접근 범위 확인
    오케스트레이터->>지식에이전트: 관련 문서와 사례 검색
    오케스트레이터->>데이터에이전트: 클레임 데이터 분석
    오케스트레이터->>업무에이전트: 보고서 작성과 결재 흐름 연결
    업무에이전트-->>사용자: 개선안 보고서 초안 반환

중앙에서 요청을 라우팅하는 구조

  • Ai 365는 개별 에이전트 위에 인텐트 오케스트레이터, 에이전트 라우터, 컨텍스트 매니저를 둠
    • 사용자의 요청을 해석하고 어떤 에이전트 조합으로 처리할지 중앙에서 결정함
    • 예를 들어 “A고객 클레임 분석해서 개선안 보고서 만들어줘”라는 요청이면 검색, 분석, 문서화가 순서대로 이어짐
    • 영업 견적 생성, 재고·원가 조회, 견적서 작성, 결재 상신 같은 시나리오도 워크플로 템플릿으로 관리할 수 있음

중요

> 기업 AI에서 핵심은 “모델이 답을 잘하냐”만이 아님. 실제로는 어떤 권한의 사용자가 어떤 데이터에 접근해 어떤 업무를 자동화할 수 있는지 통제하는 게 더 큰 문제임

  • 조직도 기반 권한 관리도 플랫폼의 핵심 축임
    • 부서, 직무, 직급별로 쓸 수 있는 에이전트와 접근 가능한 문서·데이터를 엔트라 ID 조직도와 연동해 통제함
    • 온프레미스, 클라우드, 공유 스토리지, 가상머신 환경과 파수 문서보안 솔루션 기반 정책도 병행 운영 가능하다고 설명함
    • 오픈AI, 퍼플렉시티, 버텍스 AI 같은 외부 AI 서비스도 선택적으로 연동됨

코파일럿과 경쟁하지 않고 위에 올라타는 전략

  • 엠클라우드브리지의 전략은 마이크로소프트 스택 특화와 코파일럿 결합에 맞춰져 있음

    • 1단계로 코파일럿과 코파일럿 에이전트를 도입함
    • 2단계에서 도메인별 AI 에이전트 설계와 오케스트레이션 확장으로 넘어감
    • 고객의 AI 전환 로드맵 전체를 설계·운영하는 파트너 포지션을 노림
  • 기사에서 코파일럿과 Ai 365의 역할 구분도 분명함

    • 코파일럿이 워드, 엑셀, 아웃룩 같은 개별 생산성 도구라면 Ai 365는 전사 프로세스 자동화를 관장하는 상위 플랫폼임
    • 코파일럿 스튜디오, 파워 오토메이트, 커스텀 AI 에이전트, 로봇 프로세스 자동화(RPA), BI를 하나의 시나리오로 묶는 식임
    • 애저 오픈AI와 버텍스 AI 등 다양한 대규모 언어 모델(LLM)을 연결하는 멀티 모델 전략도 지원함
  • 이미 제조, 유통, 의료, 법무 등 여러 산업 고객 사례도 언급됨

    • 한 제조업체는 지식관리 에이전트로 전사 문서 검색과 FAQ 자동 응답을 먼저 만들고, 이후 생산·품질 데이터 자연어 분석으로 확장함
    • 다른 사례는 애저 오픈AI 기반 전 부서 지식관리·검색을 팀즈에서 바로 쓰도록 구성함
    • 회사 측은 단일 기능 도구가 아니라 전사 AI 에이전트 체계의 기반 인프라로 쓰이고 있다고 설명함

ℹ️참고

> 국내 SaaS의 틈새는 ‘모델을 더 잘 만든다’보다 ‘한국 기업의 일하는 방식에 더 잘 붙는다’일 수 있음. 조직도, 결재, 그룹웨어, 국문 규정·양식은 글로벌 SaaS가 대충 덮고 지나가기 어려운 영역임


기술 맥락

  • 이 기사에서 말하는 오케스트레이션은 단순히 여러 챗봇을 한 화면에 모으는 게 아니에요. 사용자 요청을 해석하고, 권한을 확인하고, 필요한 문서와 데이터를 찾고, 업무 시스템에 실행까지 연결하는 중간 제어 계층에 가까워요.

  • 엠클라우드브리지가 MS 365 위에 올라타는 이유는 기업 사용자가 이미 그 안에서 일하기 때문이에요. 팀즈, 셰어포인트, 익스체인지에 문서와 커뮤니케이션이 쌓여 있는데 별도 포털을 만들면 adoption이 떨어져요. 기존 업무 환경에 AI를 붙이는 게 현실적인 선택인 거죠.

  • RAG와 자연어 SQL이 같이 나오는 것도 중요해요. 회사 문서는 지식관리 에이전트가 검색하고, ERP나 MES 같은 정형 데이터는 데이터 에이전트가 분석해야 해요. 둘을 따로 두면 답변은 그럴듯한데 실제 업무 보고서로 이어지지 않거든요.

  • 보안 에이전트가 별도 축으로 잡힌 이유는 기업 AI의 실패 지점이 대부분 권한에서 나오기 때문이에요. 같은 질문을 해도 임원, 영업팀, 외주 인력이 볼 수 있는 데이터가 달라야 해요. AI가 이 경계를 무시하면 자동화가 아니라 사고가 돼요.

  • 국내 SaaS가 글로벌 빅테크와 정면 경쟁하지 않겠다는 전략도 꽤 현실적이에요. 모델 자체는 빅테크가 앞서가지만, 한국식 전자결재, 조직도, 직급, 국문 문서 양식, 보안 솔루션 연동은 현장 이해가 있는 업체가 더 잘 붙일 수 있거든요.

기업 AI 도입에서 진짜 어려운 건 모델 성능보다 ‘누가 어떤 데이터로 어떤 일을 자동화할 수 있느냐’를 통제하는 부분임. 국내 SaaS가 빅테크와 정면승부하기보다 조직 문화와 업무 흐름을 반영한 상위 레이어로 가겠다는 전략은 꽤 현실적임.

댓글

댓글

댓글을 불러오는 중...

ai-ml

동아대와 메가존클라우드, 양자컴퓨팅·양자 머신러닝 단기 특강 연다

동아대 G-LAMP 연구소가 메가존클라우드와 함께 6월 29일부터 30일까지 양자컴퓨팅 단기 특강을 연다. 큐비트와 게이트 기초부터 AWS 브래킷 실습, 그로버·쇼어 알고리즘, 양자 머신러닝까지 이틀 안에 다루는 집중 과정이다.

ai-ml

요기요, 제미나이 엔터프라이즈로 사내 AI 해커톤 열고 실제 서비스 적용 추진

메가존소프트와 구글클라우드가 요기요의 첫 사내 AI 해커톤을 기술 지원했다. 43개 팀이 57개 아이디어를 냈고, 대상은 메뉴 개선과 이미지 최적화를 제안한 ‘AI 메뉴 비서’가 받았다.

ai-ml

구글, 노트북에서 돌리는 멀티모달 오픈 모델 ‘젬마 4 12B’ 공개

구글이 개인 노트북과 온디바이스 환경에서 멀티모달 AI 에이전트를 돌릴 수 있는 오픈 모델 ‘젬마 4 12B’를 공개했다. 별도 이미지·오디오 인코더를 덜어낸 구조, 16GB급 메모리 환경 지원, 아파치 2.0 라이선스 배포가 핵심이다.

ai-ml

엔비디아와 델 무대에 오른 네이버클라우드, 무기는 풀스택 AI

네이버클라우드가 엔비디아와 델 행사에서 동시에 주요 AI 파트너로 언급됐어. 자체 대규모 언어 모델, 클라우드 인프라, 데이터센터, 서비스 운영까지 가진 풀스택 구조를 앞세워 추론 수요와 소버린 AI 시장을 노리고 있어.

ai-ml

KT클라우드, 리벨리온 NPU 얹은 공공 전용 AI 서버 출시

KT클라우드가 리벨리온의 데이터센터용 NPU ‘아톰 플러스’를 탑재한 공공 전용 NPU 서버를 출시했어. 국내 NPUaaS 최초로 클라우드 보안인증을 받았고, 공공기관 AI 사업에서 보안 규제와 국산 AI 반도체 활용 요건을 동시에 노리는 상품이야.