본문으로 건너뛰기
피드

클라우드 없이 엣지 AI끼리 상태를 맞추는 메시 기술이 나왔다

ai-ml 약 6분
vote
0
댓글
북마크

인터시그널이 주권형 에지 AI용 보안 메시 기술인 브레이드 텐드릴 v0.8.2-알파를 공개했다. 원문 대화나 파일을 보내지 않고 384차원 잠재 벡터만 동기화하며, 서명 릴레이와 이중 검증, 8비트 양자화로 광역 네트워크까지 겨냥한다.

  • 1

    원문 데이터 대신 384차원 잠재 벡터로 AI 상태를 공유함

  • 2

    QINT8 양자화로 패킷당 약 1,147바이트를 줄이고 RMSE 0.15 미만 복원 정확도를 목표로 함

  • 3

    직접 연결이 어려운 환경을 위해 서명된 릴레이 프레임과 최종 수신자 검증을 넣음

  • 4

    폐쇄망, 공공, 국방, 스마트팩토리처럼 클라우드 전송이 어려운 환경에 맞춘 기술임

  • 인터시그널이 주권형 에지 AI용 메시 기술 브레이드 텐드릴 v0.8.2-알파를 공개함

    • 개발자 프리뷰 성격의 알파 릴리스고, 기존 LAN 기반 UDP 실험을 광역 네트워크 환경으로 확장하는 데 초점을 둠
    • 코드명은 텐드릴이고, 핵심은 클라우드 API나 중앙 모델 게이트웨이 없이 장치끼리 AI 상태를 직접 맞추는 것임
  • 제일 흥미로운 부분은 원문 대화나 파일을 안 보낸다는 점임

    • 텐드릴은 사람이 읽을 수 있는 원문 대신 AI 내부 상태를 384차원 잠재 벡터로 표현해 공유함
    • 즉, 문서나 대화 로그를 네트워크에 태우는 게 아니라 AI가 작업 맥락을 유지하는 데 필요한 상태만 보내는 식임
    • 민감 데이터가 많은 공공, 국방, 제조, 연구시설 쪽에서 이 접근이 꽤 현실적으로 들리는 이유가 여기 있음

중요

> 이번 릴리스는 384차원 RAW_F32 전송과 QINT8 8비트 양자화 코덱을 함께 제공함. QINT8은 벡터 패킷당 약 1,147바이트를 줄이면서도 RMSE 0.15 미만 복원 정확도를 목표로 함.

  • 광역 네트워크를 고려한 릴레이 구조도 들어감

    • 장치 간 직접 UDP 연결이 어려우면 전송 관리자가 서명된 데이터를 RelayFrame에 넣고 MSG_RELAY_FORWARD 방식으로 중간 노드를 거쳐 전달함
    • 중간 릴레이 노드는 내용을 해석하지 않고 전달만 수행함
    • 모든 릴레이 데이터는 서명 정보를 유지한 채 이동해서, 중간 전달 과정에서 신뢰 경계를 완전히 풀어버리지 않음
  • 보안 검증은 중간 노드와 최종 수신자 양쪽에서 이중으로 잡음

    • 릴레이 노드는 전송 정책에 따라 신뢰 여부를 확인함
    • 최종 수신 장치는 종단 간 전자서명 무결성을 다시 검증함
    • 준비되지 않은 세션에서 온 상태 정보는 수신 단계에서 바로 폐기함
  • 수신 파이프라인도 꽤 빡세게 설계돼 있음

    • 최대전송단위 크기 제한을 먼저 확인하고, 와이어 프로토콜 버전, 서명 방식, 릴레이 프레임 처리 여부, 세션 게이트 상태를 순서대로 검사함
    • 재전송 공격이나 순서 꼬임을 줄이기 위해 리플레이 원장도 포함됨
    • 수신 측은 단조 증가 시퀀스 커밋으로 오래됐거나 중복된 패킷을 걸러냄
  • 배포 패키지 무결성까지 챙긴 점도 개발자 입장에선 눈에 띔

    • 이번 릴리스는 sha256sum -c 호환 매니페스트를 제공함
    • 개발자가 내려받은 패키지 체크섬을 직접 검증할 수 있게 해서, 전송 프로토콜뿐 아니라 배포 파일 변조 여부까지 확인하는 구조임
  • 이 기술의 포인트는 모델 성능이 아니라 분산 AI 운영을 위한 통신 계층임

    • 클라우드 중심 생성AI는 중앙 모델을 호출하고 결과를 받는 구조가 기본임
    • 하지만 폐쇄망, 공장, 원격 설비, 공공망처럼 데이터 반출이 제한되는 곳에서는 이 구조를 그대로 쓰기 어려움
    • 텐드릴은 로컬에서 상태를 만들고, 압축하고, 서명하고, 검증한 뒤 필요한 장치로만 보내는 쪽을 택함
  • 한국에서도 꽤 직접적인 맥락이 있음

    • 공공·국방망, 스마트팩토리, 에너지 인프라, 스마트시티 운영 환경은 클라우드 사용이나 데이터 위치 통제가 민감함
    • 온디바이스 AI와 산업용 에지 서버 수요가 늘면, 모델 배치만큼 상태 동기화와 전송 검증이 중요해짐
    • 주권형 AI가 단순히 데이터를 국내에 두는 얘기가 아니라 네트워크, 보안, 패키징, 동기화까지 묶인 시스템 기술이라는 걸 보여주는 사례임

기술 맥락

  • 텐드릴이 원문 대신 384차원 잠재 벡터를 보내는 이유는 데이터 노출면을 줄이기 위해서예요. 대화 로그나 파일을 그대로 보내면 네트워크 부담도 커지고 민감 정보도 같이 움직이는데, 상태 벡터만 공유하면 장치 간 작업 맥락은 맞추면서 원문 이동은 줄일 수 있거든요.

  • QINT8 양자화를 넣은 것도 같은 맥락이에요. 에지 장치가 여러 지역에 흩어져 있으면 대역폭과 지연이 바로 비용이 되는데, 패킷당 약 1,147바이트를 줄이면서 RMSE 0.15 미만을 유지하려는 설계는 정확도와 전송량 사이의 타협점을 찾는 시도예요.

  • 릴레이 프레임과 최종 수신자 검증은 광역 네트워크에서 특히 중요해요. 공장이나 원격 설비처럼 장치끼리 직접 연결이 안 되는 경우가 많아서 중간 노드가 필요하지만, 그 노드를 완전히 믿어버리면 보안 모델이 무너지거든요.

  • 그래서 이 릴리스는 AI 기능 자체보다 운영 계층을 보여준다고 보는 게 맞아요. 상태를 어떻게 표현하고, 어떻게 줄이고, 어떻게 서명하고, 어떤 순서로 검증할지까지 정해야 실제 폐쇄망이나 산업 현장에 넣을 수 있어요.

요즘 주권형 AI 얘기가 데이터 위치 문제로만 소비되는데, 이 기사는 그 아래에 실제로 필요한 통신 계층을 보여준다는 점이 재밌다. 모델보다 상태 동기화, 서명, 패킷 검증, 배포 무결성이 더 현실적인 병목일 수 있다.

댓글

댓글

댓글을 불러오는 중...

ai-ml

AI 동반자는 외로움을 달래는 친구일까, 감정을 수익화하는 상품일까

제임스 멀둔의 신간 『러브 머신』은 AI 챗봇을 말벗, 연인, 가족처럼 대하는 사람들이 늘어나는 현상을 다룬다. 저자는 AI 동반자가 개인의 외로움을 달래주는 듯 보이지만, 실제로는 돌봄의 공백과 공동체 해체를 파고드는 기술 자본의 상품이라고 짚는다.

ai-ml

코그니전트, 직원 20만 명에 구글 제미니 깔고 개발 속도 30% 끌어올림

코그니전트가 구글 클라우드와 AI 협업을 확대하면서 내부적으로 20만 명 규모의 제미니 도입을 추진 중이다. 회사는 이를 통해 개발 속도 30% 개선, 업무 자동화 70% 달성이라는 성과를 내세우고 있고, 이 경험을 고객 수주 확대로 연결하려는 그림이다.

ai-ml

코그니전트, 구글 클라우드와 기업용 AI 협력 확대

코그니전트가 기업들의 제미나이 AI 도입을 늘리기 위해 구글 클라우드와 전략적 협력을 확대하기로 했어. 발표 직후 코그니전트 주가는 장중 6.48% 오른 44.05달러에 거래됐고, 시장은 이 협력을 기업용 AI 사업 반등 신호로 받아들이는 분위기야.

ai-ml

GIST, AI대학 출범…AI·반도체 융합 인재 990명 규모로 키운다

GIST가 기존 정보컴퓨팅대학을 확대 개편해 AI대학을 공식 출범시켰다. AI와 반도체를 축으로 산업 AX, AI 정책까지 묶어 학부부터 대학원까지 이어지는 인재 양성 파이프라인을 만들겠다는 구상이다.

ai-ml

영국에서 AI 로펌 도움받은 원고가 승소, 한국은 아직 규제 벽이 높다

영국에서 AI 로펌 ‘가필드 AI’의 도움을 받은 프리랜서가 7000파운드 규모 소액 채권 사건에서 승소한 사례가 나왔음. 영국 규제기관은 공익적 효과를 이유로 AI 법률서비스 로펌을 인가했지만, 한국에서는 변호사법과 변협 광고 규정 충돌로 비슷한 서비스가 법적 리스크를 안고 있음.