이클릭테크, 기업용 에이전틱 AI는 ‘프롬프트’보다 운영 신뢰성이 핵심이라고 봄

기업용 AI의 관심사가 모델 성능에서 운영 신뢰성으로 이동 중

• 이클릭테크는 생성형 AI가 실험 단계를 지나 기업 도입 단계로 넘어가면서, 업계의 초점이 ‘모델이 얼마나 똑똑한가’에서 ‘운영 환경에서 얼마나 안전하게 굴러가는가’로 옮겨가고 있다고 봄

  • 단순히 더 똑똑한 AI를 만드는 게 아니라, 복잡한 실제 업무 환경에서 일관되고 안전하게 작동시키는 게 과제라는 얘기임
  • 회사는 에이전틱 AI와 관련한 내부 엔지니어링 관행을 공유하며 컨텍스트 엔지니어링, 멀티 클라우드, 계층형 보안을 강조함

• 이클릭테크의 Cycor 플랫폼은 멀티 클라우드 아키텍처 위에 구축됐다고 설명됨

  • AWS, 구글 클라우드, 알리바바 클라우드, 텐센트 클라우드, 화웨이 클라우드와 기타 공급업체를 통합함
  • 운영 지원 범위는 전 세계 230개 이상 국가와 지역이라고 밝힘
  • 특정 클라우드 벤더에 묶이는 위험을 줄이고, 대규모 쿠버네티스 클러스터와 AI 워크로드를 더 유연하게 오케스트레이션하려는 의도임

프롬프트 엔지니어링만으로는 부족하다는 판단

• 회사가 초기 에이전트 개발에서 얻은 핵심 교훈은 “프롬프트만 잘 써서는 기업 도입이 안 된다”는 것이었음

  • 그래서 컨텍스트 엔지니어링으로 전환했다고 설명함
  • 제한된 토큰 자원을 최적화하면서, 필요한 시점에 필요한 정보를 모델에 주는 접근임
  • 말하자면 모델에게 모든 문서를 때려 넣는 게 아니라, 작업 맥락을 계층화해서 공급하겠다는 전략임

• 이클릭테크의 컨텍스트 관리는 6개 계층으로 구성됨

  • 활성 세션
  • 단기 메모리
  • 장기 시맨틱 스토리지
  • 지식 그래프
  • 운영 경험
  • 재사용 가능한 조직 역량

• 민감한 작업 전에는 사전 컨텍스트 주입도 지원한다고 함

  • 관련 운영 이력과 위험 정보를 자동으로 보여주는 방식임
  • 예를 들어 에이전트가 중요한 조치를 실행하기 전에 이전 장애, 위험 조건, 승인 필요 여부 같은 맥락을 먼저 받게 하는 구조로 볼 수 있음
  • 기업 환경에서는 이게 꽤 중요함. 에이전트가 ‘맞는 명령’을 실행해도 ‘지금 하면 안 되는 명령’일 수 있기 때문임

토큰과 도구도 거버넌스 대상이 됨

• 추론 효율성을 위해 계층형 토큰 거버넌스와 점진적 도구 로딩을 도입했다고 함

  • 필요한 경우에만 도구와 정보를 동적으로 로딩함
  • 복잡한 운영 워크플로에서 도구 선택 정확도를 높이고 불필요한 토큰 소비를 줄이는 데 도움이 됐다고 설명함
  • 에이전틱 AI에서 도구 목록이 너무 많으면 모델이 엉뚱한 도구를 고르거나 컨텍스트를 낭비하는 문제가 생길 수 있음

• 이 접근은 “모델에게 모든 권한과 정보를 한 번에 주지 않는다”는 쪽에 가까움

  • 지금 작업에 필요한 도구만 열어주고, 필요한 정보만 단계적으로 제공함
  • 비용뿐 아니라 안전성 측면에서도 의미가 있음
  • 특히 운영 자동화에서는 잘못된 도구 선택이 장애로 이어질 수 있어서 이 부분이 핵심임

보안 프레임워크는 꽤 방어적으로 잡음

• 이클릭테크는 AI 기반 자동화의 운영 리스크를 줄이기 위해 여러 안전장치를 넣었다고 밝힘

  • 네임스페이스 격리
  • 모의 실행 검증
  • 사람 승인 워크플로
  • 규칙 기반 검증
  • 롤백 메커니즘

• 이 구성은 에이전트가 실제 시스템을 건드리는 순간 필요한 기본기와 맞닿아 있음

  • 네임스페이스 격리는 에이전트의 영향 범위를 제한함
  • 모의 실행 검증은 실행 전 예상 결과를 확인하게 함
  • 사람 승인 워크플로는 민감한 변경을 자동화가 바로 밀어붙이지 못하게 함
  • 롤백은 잘못된 실행이 발생했을 때 복구 가능성을 남김

• 회사는 다음 기업 AI 경쟁이 모델 역량만으로 결정되지 않을 거라고 봄

  • 엔지니어링 신뢰성
  • 인프라 오케스트레이션
  • 컨텍스트 관리
  • 조직 지식 시스템
  • 이 네 가지가 모델 자체만큼 중요해진다는 주장임

---

기술 맥락

• 이 기사에서 가장 중요한 선택은 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로 무게중심을 옮긴 거예요. 기업 업무에서는 모델에게 “잘해줘”라고 말하는 것보다, 어떤 업무 이력과 정책과 위험 정보를 언제 줄지가 더 중요하거든요.

• 멀티 클라우드를 쓰는 이유는 운영 범위가 넓기 때문이에요. 230개 이상 국가와 지역을 지원하려면 지연시간, 규제, 장애 대응, 공급자 종속 같은 문제가 생겨요. 여러 클라우드를 묶으면 복잡도는 올라가지만 선택지는 늘어나요.

• 점진적 도구 로딩은 에이전트 안전성과도 연결돼요. 모든 도구를 항상 열어두면 모델이 잘못 고를 가능성이 커지고 토큰도 낭비돼요. 필요한 순간에 필요한 도구만 보여주면 판단 공간이 줄어서 운영 리스크도 낮아져요.

• 사람 승인과 롤백을 넣은 건 에이전틱 AI가 실제 시스템 변경까지 건드린다는 전제 때문이에요. 읽기 전용 챗봇이면 과한 장치일 수 있지만, 운영 자동화 에이전트라면 실패했을 때 멈추고 되돌릴 구조가 꼭 필요해요.