본문으로 건너뛰기
피드

Calfkit — Kafka 기반 분산 AI 에이전트를 마이크로서비스로 구성하는 Python SDK

ai-ml 약 3분
vote
0
댓글
북마크

Calfkit은 AI 에이전트를 독립적인 마이크로서비스(채팅, 도구, 라우팅)로 분해하고 Kafka 이벤트 스트림으로 비동기 통신하게 해주는 Python SDK. 각 서비스가 독립 스케일링 가능하고, 기존 데이터 파이프라인에 네이티브로 합류 가능.

  • 1

    에이전트를 채팅/도구/라우팅 서비스로 분해하여 독립 배포·스케일링

  • 2

    Kafka 이벤트 스트림 네이티브로 실시간 데이터 소비가 기본 패턴

  • 3

    도구는 에이전트에 종속되지 않아 한 번 배포하면 모든 에이전트가 사용 가능

  • 4

    클라이언트가 호출 시점에 시스템 프롬프트와 도구를 오버라이드 가능

  • Calfkit이라는 Python SDK가 Show HN에 올라옴. Kafka 기반으로 분산 이벤트 드리븐 AI 에이전트를 마이크로서비스처럼 구성할 수 있게 해주는 도구임

기존 AI 에이전트 아키텍처의 문제

  • 전통적인 웹앱처럼 에이전트를 만들면 초기 마이크로서비스가 겪었던 문제가 그대로 재현됨:
    • 하나 고치면 다른 에이전트/툴이 깨지는 강결합(tight coupling)
    • 모든 에이전트가 한 런타임에 있어서 스케일링이 한 덩어리로만 가능
    • 기존 업스트림/다운스트림 시스템과 연결하기 어려운 사일로 구조

Calfkit이 해결하려는 것

  • 에이전트를 독립적인 서비스들로 분해함 — 채팅, 도구, 라우팅이 각각 별도 서비스로 돌아감
  • 각 서비스가 독립적으로 스케일링 가능하고, 이벤트 스트림으로 비동기 통신
  • 에이전트가 기본적으로 이벤트 스트림을 리슨하므로, 실시간 마켓 피드, IoT 센서, 사용자 활동 스트림 같은 데이터 스트림 소비가 네이티브 패턴이 됨
  • 도구(tool)는 특정 에이전트에 종속되지 않음. 한 번 배포하면 시스템 내 어떤 에이전트든 발견하고 호출 가능

사용 방식

  • pip install calfkit으로 설치
  • 로컬 Kafka 브로커(Docker 필요)를 띄우거나, 베타 중인 Calfkit Cloud(매니지드 브로커)를 사용
  • 도구 서비스 → LLM 채팅 서비스 → 에이전트 라우터 서비스 순으로 각각 배포하고, 클라이언트에서 호출하는 구조
  • 클라이언트가 호출 시점에 시스템 프롬프트를 오버라이드하거나 사용 가능한 도구를 제한할 수도 있음 (재배포 불필요)

💡

> Kafka 기반이라 기존에 Kafka 인프라를 쓰고 있는 팀이라면 AI 에이전트를 기존 파이프라인에 자연스럽게 합류시킬 수 있다는 게 강점. 다만 아직 문서가 부족하고 README가 메인 레퍼런스인 상태임

기존 Kafka 인프라를 쓰는 팀이라면 AI 에이전트를 기존 파이프라인에 자연스럽게 합류시킬 수 있다는 게 핵심 가치. 다만 아직 문서가 README 수준.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.