본문으로 건너뛰기
J
0
r/jeffnews HN 2026-03-24 18:02 약 6분

딥러닝용 미친 사양 컴퓨터 'Tinybox' - 최대 1 엑사플롭 지원에 가격은 100억?

ai-ml 0

요약

tinygrad 팀이 만든 딥러닝 전용 컴퓨터 'Tinybox'가 이제 실제로 판매 중임. red($12,000)부터 green($65,000), 그리고 2027년 출시 예정인 초고사양 'exabox'(~$10M)까지 라인업 구성. 근데 exabox 스펙이 진짜 레전드 수준ㅋㅋ

기사 전체 정리

  • tinygrad: 세상에서 제일 빠르게 성장 중인 신경망 프레임워크, 복잡한 네트워크를 단 3가지 OpType으로 분해
  • Tinybox 라인업: red v2($12,000) / green v2 Blackwell($65,000) / exabox(~$10M, 2027년 출시 예정)
  • exabox 스펙이 개미쳤음: GPU 720개, ~1 엑사플롭(EXAFLOP), GPU RAM 25,920 GB, 무게 20,000 파운드(약 9톤)ㄷㄷ
  • tinygrad 팀 채용 중: 풀타임 소프트웨어 엔지니어 + 운영/하드웨어 직군, 단 tinygrad 기여 없으면 지원 불가
  • 모든 제품은 Ubuntu 24.04 기반, GPU들 풀 패브릭 연결로 단일 GPU처럼 동작

tinygrad 프레임워크 소개

tinygrad는 tiny corp이 개발·유지보수하는 신경망 프레임워크로, 현재 가장 빠르게 성장 중인 프레임워크임. 핵심 철학은 극단적인 단순함으로, 아무리 복잡한 네트워크도 딱 3가지 연산 타입으로 분해함.

  • ElementwiseOps: UnaryOps, BinaryOps, TernaryOps — 1~3개 텐서에 원소별 연산 적용 (예: `SQRT`, `LOG2`, `ADD`, `MUL`, `WHERE`)
  • ReduceOps: 텐서 하나를 받아서 더 작은 텐서를 반환 (예: `SUM`, `MAX`)
  • MovementOps: 데이터를 복사 없이 가상으로 이동시키는 연산 (예: `RESHAPE`, `PERMUTE`, `EXPAND`)

> "CONV이나 MATMUL은 어디 있냐고?" → 코드 읽으면 알 수 있다고 함ㅋㅋ 직접 찾아보는 맛이 있는 프레임워크

Tinybox 제품 라인업

🔴 tinybox red v2 — $12,000 (재고 있음)

| 항목 | 스펙 |

|---|---|

| FP16 성능 | 778 TFLOPS |

| GPU | 4x AMD 9070XT |

| GPU RAM | 64 GB / 2560 GB/s |

| CPU | 32코어 AMD EPYC |

| 시스템 RAM | 128 GB |

| 스토리지 | 2 TB NVMe |

| 소비전력 | 1600W (100~240V) |

| 소음 | < 50 dB (조용한 편) |

| 크기 | 12U 랙 or 스탠드얼론 |

🟢 tinybox green v2 Blackwell — $65,000 (재고 있음)

| 항목 | 스펙 |

|---|---|

| FP16 성능 | 3086 TFLOPS |

| GPU | 4x RTX PRO 6000 Blackwell |

| GPU RAM | 384 GB / 7168 GB/s |

| CPU | 32코어 AMD GENOA |

| 시스템 RAM | 192 GB |

| 스토리지 | 4 TB RAID + 1 TB 부트 |

| 소비전력 | 2x 1600W |

| 연결성 | PCIe 5.0 x16 풀 패브릭 |

⚡ exabox — ~$10,000,000 (2027년 출시 예정)

진짜 이건 스펙이 레전드임:

| 항목 | 스펙 |

|---|---|

| FP16 성능 | ~1 EXAFLOP |

| GPU | 720x RDNA5 AT0 XL |

| GPU RAM | 25,920 GB / 1244 TB/s |

| CPU | 120x 32코어 AMD GENOA |

| 시스템 RAM | 23,040 GB / 55.2 TB/s |

| 스토리지 | 480 TB RAID / 7.1 TB/s |

| 네트워킹 | 53.2 TB/s 스케일아웃 (400 GbE) |

| 전력 | 600 kW (200~240V) |

| 크기 | 20x8x8.5 ft, 20,000 lbs (약 9톤) |

| 설치 방식 | 콘크리트 슬래브 위에 놓는 거임 |

exabox는 단일 GPU처럼 동작하는 게 포인트. 드라이버 수준에서 720개 GPU가 하나처럼 보임.

채용 중

  • 풀타임 소프트웨어 엔지니어 + 매우 뛰어난 인턴
  • 운영 및 하드웨어 직군
  • ⚠️ 단, tinygrad에 기여 이력 없으면 지원 자체가 안 됨
  • 바운티 페이지에서 내 적합도를 미리 검증할 수 있고, 바운티 수행하면 돈도 줌

핵심 포인트

  • tinygrad는 3가지 OpType(ElementwiseOps, ReduceOps, MovementOps)으로 모든 신경망을 단순화하는 프레임워크
  • Tinybox 라인업: red($12K), green($65K), exabox(~$10M/2027), red·green은 현재 재고 있음
  • exabox = GPU 720개 + ~1 EXAFLOP + 9톤 무게 + 600kW 전력 소비, 단일 GPU처럼 동작하는 괴물 머신

인사이트

tinygrad가 프레임워크에서 하드웨어까지 수직 통합을 시도하는 게 ㄹㅇ 흥미로움. exabox가 '단일 GPU처럼 동작'한다는 추상화 철학이 tinygrad의 단순함 철학이랑 딱 맞아떨어지는 느낌이라 갓갓이긴 한데... $10M짜리 제품을 2027년에 제대로 내놓을 수 있을지가 관건임.

댓글

댓글

댓글을 불러오는 중...

ai-ml 2026-03-24

Flash-MoE: Running a 397B Parameter Model on a Laptop

Read the paper — Full technical details, 90+ experiments, and the story of how an AI and a human built this in 24 hours. Pure C/Metal inference engine that runs Qwen3.5-397B-A17B (a 397 billion param

ai-ml 2026-03-24

Claude Code한테 내 옛날 연구 코드 맡겨봤는데 하루만에 54% 성능 향상시킴 ㄷㄷ

Karpathy의 Autoresearch 방법론에서 영감 받아서, 저자가 자기 옛날 연구 코드(eCLIP)를 Claude Code한테 던져주고 빨래/장보기 하러 갔음. 돌아왔더니 42번 실험 돌리고 Mean Rank를 344→157로 54% 줄여놨다는 레전드 썰. 근데 버그 하나 고친 게 모든 아키텍처 개선 합친 것보다 효과가 컸다는 게 포인트 ㅋㅋ

ai-ml 2026-03-24

Walmart: ChatGPT checkout converted 3x worse than website

Search Engine Land is owned by Semrush. We remain committed to providing high-quality coverage of marketing topics. Unless otherwise noted, this page’s content was written by either an employee or a p

ai-ml 2026-03-24

Claude Code 치트시트 레전드 정리본 떴다 - 이거 하나면 끝

Claude Code의 모든 슬래시 커맨드, 단축키, 고급 기능을 한 페이지에 때려박은 치트시트임. /btw 같은 숨겨진 꿀기능부터 Git Worktree, Voice Mode까지 ㄹㅇ 알차게 담겨있어서 북마크 필수각.

ai-ml 2026-03-24

iPhone 17 Pro Demonstrated Running a 400B LLM

JavaScript is not available. We’ve detected that JavaScript is disabled in this browser. Please enable JavaScript or switch to a supported browser to continue using x.com. You can see a list of suppo