본문으로 건너뛰기
피드

소규모 모델 3개로 GPT-5급 성능을 뽑아내는 NSED 프로토콜, 오픈소스로 공개됨

ai-ml 약 3분
vote
0
댓글
북마크

여러 소형 AI 모델이 병렬로 작업하고 교차 평가하는 NSED 프로토콜이 오픈소스로 공개됨. 20B+8B+12B 모델 3개로 소비자 하드웨어에서 AIME 2025 84%를 달성해 DeepSeek-R1 동급, GPT-5와 1점 차 성능을 보여줌.

  • 1

    NSED는 여러 AI 모델이 병렬 작업 후 교차 평가하며 최종 답변에 수렴하는 Mixture-of-Models 프로토콜

  • 2

    20B+8B+12B 모델 3개로 AIME 2025 84% 달성 (단순 다수결은 54%)

  • 3

    64GB VRAM으로 80~140GB급 단일 모델 성능 재현

  • 4

    Rust 구현, NATS 메시징 버스, Ollama/vLLM 지원

  • 5

    BSL 1.1 라이선스: 연매출 $1M 미만 무료, 4년 후 AGPL-3.0 전환

  • NSED(N-Way Self-Evaluating Deliberation)는 여러 AI 모델이 병렬로 작업하고 서로 교차 평가하면서 최종 답변에 수렴하는 프로토콜임
  • 핵심 성과가 인상적함: 20B+8B+12B 모델 3개를 소비자급 하드웨어에서 돌려 AIME 2025 벤치마크 84% 달성. DeepSeek-R1과 동급이고 GPT-5와는 고작 1점 차이
  • 같은 모델 조합으로 단순 다수결 투표하면 54%밖에 안 나옴. 교차 평가가 핵심이라는 뜻
  • 64GB VRAM으로 80~140GB급 단일 거대 모델의 추론 성능을 재현한다는 게 포인트. 프론티어 모델 돌리려고 H100 사재기할 필요가 줄어듦
  • Rust로 구현되어 있고 NATS 메시징 버스를 통신 레이어로 사용함. Ollama, vLLM 등 다양한 백엔드 지원
  • 에이전트마다 제안·평가·점수·추론 과정이 전부 기록되므로 감사 추적이 가능하고, 실행 중 가이드 주입이나 토큰/비용 예산 설정도 됨
  • 라이선스는 BSL 1.1: 연매출 $1M 미만이면 무료, 그 이상은 상용 라이선스 필요. 4년 후 AGPL-3.0으로 자동 전환
  • "작은 모델 여러 개가 거대 모델 한 개를 이긴다"는 Mixture-of-Models 접근이 실제 벤치마크로 증명된 사례. 셀프호스팅 AI의 가성비가 한 단계 올라갈 수 있음

작은 모델 여러 개의 협업이 거대 모델 한 개를 대체할 수 있다는 것이 벤치마크로 증명됨. 셀프호스팅 AI의 가성비 공식이 바뀔 수 있는 사례.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.