본문으로 건너뛰기
피드

딥러닝용 미친 사양 컴퓨터 'Tinybox' - 최대 1 엑사플롭 지원에 가격은 100억?

ai-ml 약 6분

tinygrad 팀이 만든 딥러닝 전용 컴퓨터 'Tinybox'가 이제 실제로 판매 중임. red($12,000)부터 green($65,000), 그리고 2027년 출시 예정인 초고사양 'exabox'(~$10M)까지 라인업 구성. 근데 exabox 스펙이 진짜 레전드 수준ㅋㅋ

  • 1

    tinygrad는 3가지 OpType(ElementwiseOps, ReduceOps, MovementOps)으로 모든 신경망을 단순화하는 프레임워크

  • 2

    Tinybox 라인업: red($12K), green($65K), exabox(~$10M/2027), red·green은 현재 재고 있음

  • 3

    exabox = GPU 720개 + ~1 EXAFLOP + 9톤 무게 + 600kW 전력 소비, 단일 GPU처럼 동작하는 괴물 머신

  • tinygrad: 세상에서 제일 빠르게 성장 중인 신경망 프레임워크, 복잡한 네트워크를 단 3가지 OpType으로 분해
  • Tinybox 라인업: red v2($12,000) / green v2 Blackwell($65,000) / exabox(~$10M, 2027년 출시 예정)
  • exabox 스펙이 개미쳤음: GPU 720개, ~1 엑사플롭(EXAFLOP), GPU RAM 25,920 GB, 무게 20,000 파운드(약 9톤)ㄷㄷ
  • tinygrad 팀 채용 중: 풀타임 소프트웨어 엔지니어 + 운영/하드웨어 직군, 단 tinygrad 기여 없으면 지원 불가
  • 모든 제품은 Ubuntu 24.04 기반, GPU들 풀 패브릭 연결로 단일 GPU처럼 동작

tinygrad 프레임워크 소개

tinygrad는 tiny corp이 개발·유지보수하는 신경망 프레임워크로, 현재 가장 빠르게 성장 중인 프레임워크임. 핵심 철학은 극단적인 단순함으로, 아무리 복잡한 네트워크도 딱 3가지 연산 타입으로 분해함.

  • ElementwiseOps: UnaryOps, BinaryOps, TernaryOps — 1~3개 텐서에 원소별 연산 적용 (예: SQRT, LOG2, ADD, MUL, WHERE)
  • ReduceOps: 텐서 하나를 받아서 더 작은 텐서를 반환 (예: SUM, MAX)
  • MovementOps: 데이터를 복사 없이 가상으로 이동시키는 연산 (예: RESHAPE, PERMUTE, EXPAND)

"CONV이나 MATMUL은 어디 있냐고?" → 코드 읽으면 알 수 있다고 함ㅋㅋ 직접 찾아보는 맛이 있는 프레임워크

Tinybox 제품 라인업

🔴 tinybox red v2 — $12,000 (재고 있음)

항목 스펙
FP16 성능 778 TFLOPS
GPU 4x AMD 9070XT
GPU RAM 64 GB / 2560 GB/s
CPU 32코어 AMD EPYC
시스템 RAM 128 GB
스토리지 2 TB NVMe
소비전력 1600W (100~240V)
소음 < 50 dB (조용한 편)
크기 12U 랙 or 스탠드얼론

🟢 tinybox green v2 Blackwell — $65,000 (재고 있음)

항목 스펙
FP16 성능 3086 TFLOPS
GPU 4x RTX PRO 6000 Blackwell
GPU RAM 384 GB / 7168 GB/s
CPU 32코어 AMD GENOA
시스템 RAM 192 GB
스토리지 4 TB RAID + 1 TB 부트
소비전력 2x 1600W
연결성 PCIe 5.0 x16 풀 패브릭

⚡ exabox — ~$10,000,000 (2027년 출시 예정)

진짜 이건 스펙이 레전드임:

항목 스펙
FP16 성능 ~1 EXAFLOP
GPU 720x RDNA5 AT0 XL
GPU RAM 25,920 GB / 1244 TB/s
CPU 120x 32코어 AMD GENOA
시스템 RAM 23,040 GB / 55.2 TB/s
스토리지 480 TB RAID / 7.1 TB/s
네트워킹 53.2 TB/s 스케일아웃 (400 GbE)
전력 600 kW (200~240V)
크기 20x8x8.5 ft, 20,000 lbs (약 9톤)
설치 방식 콘크리트 슬래브 위에 놓는 거임

exabox는 단일 GPU처럼 동작하는 게 포인트. 드라이버 수준에서 720개 GPU가 하나처럼 보임.

채용 중

  • 풀타임 소프트웨어 엔지니어 + 매우 뛰어난 인턴
  • 운영 및 하드웨어 직군
  • ⚠️ 단, tinygrad에 기여 이력 없으면 지원 자체가 안 됨
  • 바운티 페이지에서 내 적합도를 미리 검증할 수 있고, 바운티 수행하면 돈도 줌

tinygrad가 프레임워크에서 하드웨어까지 수직 통합을 시도하는 게 ㄹㅇ 흥미로움. exabox가 '단일 GPU처럼 동작'한다는 추상화 철학이 tinygrad의 단순함 철학이랑 딱 맞아떨어지는 느낌이라 갓갓이긴 한데... $10M짜리 제품을 2027년에 제대로 내놓을 수 있을지가 관건임.

댓글

댓글

댓글을 불러오는 중...

ai-ml

앤트로픽이 스페이스X 데이터센터를 쓰는 이유, AI 권력이 컴퓨팅으로 이동 중

앤트로픽이 스페이스X의 멤피스 콜로서스 I 데이터센터를 쓰는 계약을 맺었다는 보도다. 300MW 이상, 엔비디아 GPU 22만 개 이상 규모의 컴퓨팅 용량이 언급됐고, 폭증하는 AI 수요와 낮은 칩 가동률을 맞교환하는 거래로 해석된다.

ai-ml

AI 생산성 2.5%가 미국 39조 달러 부채를 구할 수 있을까

예일대 예산연구소 모델링에 따르면 AI가 향후 5년간 생산성을 매년 2.5% 끌어올리고 고용이 유지되면 미국의 2035년 재정 적자와 부채 비율이 크게 안정될 수 있다. 하지만 AI가 노동자를 대체해 실업 지원 비용이 커지면 생산성 이득 상당 부분이 상쇄될 수 있다는 경고도 함께 나온다.

ai-ml

AI 도입보다 어려운 건 IP 워크플로우 다시 짜기

IP와 R&D 업무에 AI를 붙였더니 초기 효율은 좋아졌지만, 시간이 지나자 모델별 품질 편차와 검증 부담이 새 병목으로 떠올랐다는 얘기다. 핵심은 특정 AI 도구를 더 사는 게 아니라, AI가 후보를 만들고 전문가가 검증하는 식으로 업무 흐름 자체를 재설계하는 데 있다.

ai-ml

클로드 코워크, 복붙 대신 PC를 직접 만지는 AI 에이전트로 가는 길

앤스로픽의 ‘클로드 코워크’는 챗봇처럼 답만 주는 도구가 아니라, PC 폴더와 파일을 직접 열고 정리하며 엑셀 결과물까지 만드는 에이전트형 업무 도구로 소개됐다. 영수증 사진 30장을 읽어 매장명·날짜·항목·금액을 표로 만들고 합계 수식이 들어간 엑셀 파일까지 생성하는 사례가 핵심이다.

ai-ml

국내 의료 AI, 전시용 기술에서 임상 현장 도구로 이동 중

AI 엑스포 코리아 2026에서 국내 의료 AI 기업들이 병원 문서 구조화, 안저 질환 진단 보조, 정신건강 관리 솔루션을 선보였다. 특히 녹내장 93%, 당뇨병성 망막병증 민감도 90% 같은 임상 성적을 내세우며 ‘기술 시연’보다 실제 현장 가치 증명에 초점을 맞췄다.