tinybox Red v2 — 1600만 원으로 클라우드 없이 로컬 AI 무제한
tinygrad의 로컬 AI 전용 컴퓨터 tinybox Red v2를 $12,000에 바로 구매할 수 있습니다. GPU 4장으로 Llama 70B를 오프라인에서 무제한 실행하며, 3년간 클라우드 대비 1600만 원 절약. 스펙·비용·해커뉴스 반응까지 완전 분석했습니다.
• 내 컴퓨터가 하루 종일 본 화면을 전부 기억한다 — 오픈소스 Screenpipe, 깃허브 스타 1만 7천
• 내 맥북이 AI 보안 카메라가 됐다 — 월 구독료 0원에 정확도 93.8%, 오픈소스 SharpAI
매달 ChatGPT나 Claude에 구독료를 내면서 '이 돈이면 내 컴퓨터에서 직접 돌리는 게 낫지 않나?' 생각해본 적 있을 것입니다. tinybox Red v2는 바로 그 생각을 현실로 만든 로컬 AI 워크스테이션입니다. $12,000(약 1,600만 원)이면 인터넷 연결 없이, 구독료 없이, 사용량 제한 없이 AI를 쓸 수 있는 전용 컴퓨터를 책상 위에 올려놓을 수 있습니다.
이 제품을 만든 곳은 tiny corp입니다. 유명 해커이자 AI 연구자인 조지 호츠(George Hotz)가 이끄는 회사로, 오픈소스 딥러닝 프레임워크 tinygrad(깃허브 스타 3만 1천)를 만든 곳이기도 합니다. 해커뉴스에서 53표를 받으며 화제가 되고 있습니다.
$12,000 vs $65,000 — tinybox 두 모델 스펙 비교
tinybox는 현재 두 가지 모델을 판매하고 있으며, 둘 다 즉시 구매 가능합니다. 주문 후 1주일 이내에 배송됩니다.
🔴 Red v2 — $12,000 (약 1,600만 원)
- GPU: AMD Radeon 9070XT × 4장 (GPU 메모리 총 64GB)
- CPU: AMD EPYC 32코어
- 시스템 메모리: 128GB
- 저장장치: NVMe 2TB
- 연산 성능: 778 TFLOPS (FP16)
- 전력: 1,600W 단일 전원
- 크기: 12U — 책상 위에 올려놓거나 서버랙에 장착 가능
🟢 Green v2 Blackwell — $65,000 (약 8,500만 원)
- GPU: NVIDIA RTX PRO 6000 Blackwell × 4장 (GPU 메모리 총 384GB)
- CPU: AMD GENOA 32코어
- 시스템 메모리: 192GB
- 저장장치: 4TB RAID + 1TB 부팅용
- 연산 성능: 3,086 TFLOPS (FP16)
- 네트워크: 10GbE × 2
Green v2에 탑재된 RTX PRO 6000 Blackwell은 엔비디아가 GTC 2026에서 발표한 최신 GPU입니다. tinybox에서 이 GPU를 바로 구매할 수 있다는 점이 주목할 만합니다.
Llama 70B부터 DeepSeek까지 — 실제로 돌릴 수 있는 AI 모델
AI 모델을 돌리려면 모델의 크기만큼 GPU 메모리가 필요합니다. 쉽게 말해, 모델이 책이라면 GPU 메모리는 책상 크기입니다. 책상이 클수록 더 두꺼운 책을 올려놓을 수 있습니다.
AI 모델을 압축(양자화)하면 더 작은 메모리에서도 실행할 수 있습니다. 화질을 약간 낮추면 더 작은 화면에서도 영상을 볼 수 있는 것과 같은 원리입니다.
Red v2 (64GB GPU 메모리)로 돌릴 수 있는 모델:
- Llama 3.1 70B — 4비트 압축 시 약 35GB, 충분히 실행 가능
- Mistral Small 4, Qwen 2.5 72B 등 70B급 오픈소스 모델
- 7B~30B급 모델은 압축 없이 원본 그대로 실행 가능
Green v2 (384GB GPU 메모리)로 돌릴 수 있는 모델:
- Llama 3.1 405B — 4비트 압축 시 약 200GB, 여유 있게 실행
- DeepSeek R1 671B — 4비트 압축 시 약 335GB, 384GB에 맞춤
- 사실상 현존하는 거의 모든 오픈소스 AI 모델 실행 가능
클라우드 GPU 구독료 vs 전기세 — 3년 비용 비교
tinybox를 사면 구독료는 0원이지만, 전기세가 들어갑니다. Red v2의 최대 전력은 1,600W입니다. 하루 8시간 사용한다고 가정하면:
tinybox Red v2 — 3년 총비용
────────────────────────
구매 비용: $12,000
전기세 (하루 8시간 × 365일 × 3년): 약 $2,100
────────────────────────
합계: 약 $14,100 (1,830만 원)
반면 클라우드 GPU 서비스를 같은 기간 쓰면:
클라우드 GPU — 3년 총비용
────────────────────────
하루 8시간 × $3/시간 × 365일 × 3년
────────────────────────
합계: 약 $26,280 (3,420만 원)
매일 8시간 이상 AI를 집중적으로 사용하는 연구자나 개발자라면, 3년 기준으로 약 1,600만 원을 절약할 수 있습니다. 물론 가끔 ChatGPT를 쓰는 정도라면 월 $20 구독이 훨씬 합리적입니다.
가격보다 중요한 로컬 AI의 세 가지 장점
tinybox를 선택하는 사람들의 이유는 돈 절약만이 아닙니다.
1 내 데이터가 밖으로 나가지 않습니다. 회사 기밀 문서, 고객 정보, 의료 데이터를 AI로 분석하고 싶지만 클라우드에 올리기 꺼려지는 경우에 로컬 AI는 유일한 선택입니다.
2 사용량 제한이 없습니다. ChatGPT나 Claude는 하루에 보낼 수 있는 메시지 수에 제한이 있습니다. tinybox는 24시간 무제한입니다. 에이전틱 AI처럼 자율적으로 작업을 수행하는 AI 에이전트를 로컬에서 제한 없이 돌릴 수 있다는 점이 가장 큰 매력입니다.
3 인터넷이 끊겨도 돌아갑니다. 비행기 안에서도, 오프라인 환경에서도, 서버 장애와 무관하게 AI를 쓸 수 있습니다.
해커뉴스 커뮤니티의 솔직한 평가
해커뉴스 토론에서 개발자들의 반응은 엇갈렸습니다.
긍정적인 의견은 "잘 조합된 프리빌트(사전 조립 제품)에 깔끔한 케이스"라는 점이었습니다. 부품을 직접 사서 조립할 수 있는 사람에게는 특별할 것 없지만, GPU 4장을 안정적으로 돌리려면 전원 설계·냉각·호환성 문제를 해결해야 하기 때문에 조립 경험이 없는 사람에게는 가치 있는 선택입니다.
비판적인 의견도 있었습니다. 한 사용자는 "120V 콘센트 두 개가 필요해서 불편하다, 240V를 지원해달라"고 했고, 또 다른 사용자는 $65,000 Green 모델에 대해 "고객들이 DeepSeek 같은 저렴한 대안을 더 선호한다"고 했습니다.
tinybox Red v2 구매 방법과 배송 안내
tinygrad.org에서 바로 주문할 수 있습니다. 현재 Red v2와 Green v2 모두 재고 있음(In Stock) 상태이며, 결제 후 1주일 이내에 배송됩니다. 미국 샌디에이고에서 직접 픽업도 가능합니다. 결제는 송금(Wire Transfer)만 지원합니다.
참고로 tiny corp은 2027년에 720장의 GPU를 탑재한 exabox(약 130억 원)도 출시할 계획입니다. 1 엑사플롭(EXAFLOP) 성능으로, 소규모 AI 스타트업이 자체 학습 인프라를 갖출 수 있는 수준입니다.
AI를 처음 시작하는 분이라면 먼저 AI 환경 세팅 가이드에서 기본 설정 방법을 확인해보세요.
관련 콘텐츠 — Easy클코로 AI 시작하기 | 무료 학습 가이드 | AI 뉴스 더보기