딥러닝용 미친 사양 컴퓨터 'Tinybox' - 최대 1 엑사플롭 지원에 가격은 100억?

• tinygrad: 세상에서 제일 빠르게 성장 중인 신경망 프레임워크, 복잡한 네트워크를 단 3가지 OpType으로 분해
• Tinybox 라인업: red v2($12,000) / green v2 Blackwell($65,000) / exabox(~$10M, 2027년 출시 예정)
• exabox 스펙이 개미쳤음: GPU 720개, ~1 엑사플롭(EXAFLOP), GPU RAM 25,920 GB, 무게 20,000 파운드(약 9톤)ㄷㄷ
• tinygrad 팀 채용 중: 풀타임 소프트웨어 엔지니어 + 운영/하드웨어 직군, 단 tinygrad 기여 없으면 지원 불가
• 모든 제품은 Ubuntu 24.04 기반, GPU들 풀 패브릭 연결로 단일 GPU처럼 동작

---

tinygrad 프레임워크 소개

tinygrad는 tiny corp이 개발·유지보수하는 신경망 프레임워크로, 현재 가장 빠르게 성장 중인 프레임워크임. 핵심 철학은 극단적인 단순함으로, 아무리 복잡한 네트워크도 딱 3가지 연산 타입으로 분해함.

• ElementwiseOps: UnaryOps, BinaryOps, TernaryOps — 1~3개 텐서에 원소별 연산 적용 (예: `SQRT`, `LOG2`, `ADD`, `MUL`, `WHERE`)
• ReduceOps: 텐서 하나를 받아서 더 작은 텐서를 반환 (예: `SUM`, `MAX`)
• MovementOps: 데이터를 복사 없이 가상으로 이동시키는 연산 (예: `RESHAPE`, `PERMUTE`, `EXPAND`)

> "CONV이나 MATMUL은 어디 있냐고?" → 코드 읽으면 알 수 있다고 함ㅋㅋ 직접 찾아보는 맛이 있는 프레임워크

Tinybox 제품 라인업

🔴 tinybox red v2 — $12,000 (재고 있음)

| 항목 | 스펙 |

|---|---|

| FP16 성능 | 778 TFLOPS |

| GPU | 4x AMD 9070XT |

| GPU RAM | 64 GB / 2560 GB/s |

| CPU | 32코어 AMD EPYC |

| 시스템 RAM | 128 GB |

| 스토리지 | 2 TB NVMe |

| 소비전력 | 1600W (100~240V) |

| 소음 | < 50 dB (조용한 편) |

| 크기 | 12U 랙 or 스탠드얼론 |

🟢 tinybox green v2 Blackwell — $65,000 (재고 있음)

| 항목 | 스펙 |

|---|---|

| FP16 성능 | 3086 TFLOPS |

| GPU | 4x RTX PRO 6000 Blackwell |

| GPU RAM | 384 GB / 7168 GB/s |

| CPU | 32코어 AMD GENOA |

| 시스템 RAM | 192 GB |

| 스토리지 | 4 TB RAID + 1 TB 부트 |

| 소비전력 | 2x 1600W |

| 연결성 | PCIe 5.0 x16 풀 패브릭 |

⚡ exabox — ~$10,000,000 (2027년 출시 예정)

진짜 이건 스펙이 레전드임:

| 항목 | 스펙 |

|---|---|

| FP16 성능 | ~1 EXAFLOP |

| GPU | 720x RDNA5 AT0 XL |

| GPU RAM | 25,920 GB / 1244 TB/s |

| CPU | 120x 32코어 AMD GENOA |

| 시스템 RAM | 23,040 GB / 55.2 TB/s |

| 스토리지 | 480 TB RAID / 7.1 TB/s |

| 네트워킹 | 53.2 TB/s 스케일아웃 (400 GbE) |

| 전력 | 600 kW (200~240V) |

| 크기 | 20x8x8.5 ft, 20,000 lbs (약 9톤) |

| 설치 방식 | 콘크리트 슬래브 위에 놓는 거임 |

exabox는 단일 GPU처럼 동작하는 게 포인트. 드라이버 수준에서 720개 GPU가 하나처럼 보임.

채용 중

• 풀타임 소프트웨어 엔지니어 + 매우 뛰어난 인턴
• 운영 및 하드웨어 직군
• ⚠️ 단, tinygrad에 기여 이력 없으면 지원 자체가 안 됨
• 바운티 페이지에서 내 적합도를 미리 검증할 수 있고, 바운티 수행하면 돈도 줌