오픈소스로 고객지원 AI 에이전트를 직접 호스팅하는 콘버시오

• 콘버시오는 고객지원용 AI 에이전트를 “오픈소스로 직접 소유하자”는 쪽에 꽂힌 프로젝트임

  • 도움말 문서를 읽고, 채팅에서 고객 질문에 답하고, 상담 답변 초안을 만들고, 대화를 요약하고, 이슈를 라우팅하는 역할까지 맡김
  • 사람이 필요한 순간에는 인간 상담원에게 넘기는 흐름도 포함돼 있음

• 제일 크게 내세우는 건 기능 목록보다 “통제권”임

  • 고객 대화, 프롬프트, 임베딩, 모델 트래픽을 팀이 직접 관리하는 인프라 안에 두겠다는 메시지임
  • 유럽 데이터센터에 배포하고, Mistral 같은 유럽 소유 AI 제공자나 Gemma, Qwen, Whisper 같은 오픈 모델을 쓰는 구성을 전제로 이야기함

• 라이선스와 과금 구조도 꽤 공격적으로 잡았음

  • MIT 라이선스 기반 오픈소스라고 밝힘
  • AI 기능 티어, 페이월 없이 운영한다는 점을 강조함
  • 고객지원 SaaS들이 AI 기능을 상위 요금제로 묶는 흐름을 생각하면, 이건 꽤 노골적인 포지셔닝임

• 한국 팀에도 남 일은 아님

  • 금융, 의료, 기업용 B2B처럼 고객 대화가 민감한 서비스는 AI 고객지원 도입 때 데이터 반출 문제가 바로 걸림
  • “미국 클라우드 법 영향에서 벗어난다”는 표현은 유럽 맥락이지만, 국내에서도 데이터 위치와 위탁 처리 이슈는 그대로 중요함

---

기술 맥락

• 콘버시오가 고른 방향은 고객지원 AI를 SaaS 기능으로 쓰기보다, 팀이 직접 배포하고 통제하는 AI 지원 계층으로 두는 거예요. 고객 대화와 임베딩은 단순 로그가 아니라 민감한 업무 데이터가 될 수 있어서, 어디에 저장되고 어떤 모델로 흘러가는지가 중요하거든요.

• Mistral, Gemma, Qwen, Whisper 같은 선택지를 언급한 이유도 특정 모델 성능 자랑보다는 운영 경계를 직접 정할 수 있다는 데 있어요. 모델 제공자, 데이터센터, 프롬프트 처리 경로를 조합할 수 있어야 규제나 고객 계약 조건에 맞추기 쉬워요.

• 다만 자가 호스팅은 공짜 점심이 아니에요. 배포, 모니터링, 모델 품질 관리, 보안 패치까지 팀이 책임져야 하니까요. 대신 고객지원 데이터가 비즈니스 핵심 자산인 팀이라면 그 비용을 감수할 이유가 생겨요.