Hetzner GPU Server

मूल लेख ↗ Hacker News चर्चा ↗

Hetzner का नया GEX44 GPU server, जो 20 GB VRAM वाले RTX 4000 SFF Ada पर आधारित है, US hyperscalers और अन्य GPU rental platforms की तुलना में AI workloads चलाने का एक अपेक्षाकृत सस्ता तरीका होने के कारण ध्यान आकर्षित कर रहा है। टिप्पणीकार इसकी खूबियों—बहुत प्रतिस्पर्धी price/performance, कई उपयोगकर्ताओं के लिए मज़बूत दीर्घकालिक reliability, और Hetzner का cost-optimized hardware stack—की तुलना इसके स्पष्ट drawbacks से करते हैं, जैसे गंभीर training के लिए सीमित VRAM, कुछ signups को रोक देने वाली कड़ी account verification, और full-featured cloud ecosystems की तुलना में कमज़ोर support और tooling। कुल मिलाकर, यदि आप अधिक operational responsibility और संभावित support friction संभाल सकते हैं, तो इसे sustained, raw compute needs के लिए आकर्षक माना जाता है.

Hetzner पर समग्र भावना (गैर‑GPU)

  • कई दीर्घकालिक उपयोगकर्ता उत्कृष्ट मूल्य/प्रदर्शन की रिपोर्ट करते हैं, विशेषकर dedicated servers और auctions के लिए।
  • आम प्रशंसा: कम latency, उदार bandwidth, मजबूत uptime (कई वर्षों, यहाँ तक कि दशक‑भर के रन), और ज़रूरत पड़ने पर responsive support।
  • Hetzner की bare-bones शैली और “managed” features की कमी को तकनीकी रूप से सक्षम उपयोगकर्ताओं के लिए स्वीकार्य या यहाँ तक कि वांछनीय माना जाता है।

विश्वसनीयता और व्यावसायिक उपयुक्तता

  • कुछ लोग दावा करते हैं कि Hetzner “crucial business” workloads के लिए अनुपयुक्त है, और खराब अनुभवों, अचानक shutdowns, या खराब support का हवाला देते हैं।
  • अन्य लोग इससे काफ़ी असहमत हैं, और वर्षों के स्थिर production use के साथ बहुत कम घटनाएँ तथा prompt hardware replacements की रिपोर्ट करते हैं।
  • निष्कर्ष: यदि आपके पास अच्छा backup/replication है और आप कुछ operations स्वयं संभाल सकते हैं, तो cost-sensitive workloads के लिए यह बहुत अच्छा है।

Account verification, geography, और onboarding friction

  • कई उपयोगकर्ताओं ने passport scans माँगे जाने और फिर भी अस्वीकृत होने की रिपोर्ट की है (विशेषकर Asia से, लेकिन EU/US से भी), जिससे Hetzner के पास उनके documents रह गए और account नहीं मिला।
  • अन्य लोग कहते हैं कि automatic checks विफल होने के बाद, support के माध्यम से manual verification ने समस्याएँ जल्दी हल कर दीं।
  • Verification और limited instant trials को anti-fraud और abuse mitigation उपायों के रूप में समझाया जाता है, विशेषकर dedicated servers के लिए।
  • कुछ लोग इस प्रक्रिया को hostile या opaque मानते हैं; Hetzner का एक प्रतिनिधि इसे safety और ToS enforcement के लिए आवश्यक बताता है।

नया GPU server (GEX44, RTX 4000 SFF Ada)

  • कीमत लगभग €184/माह; अन्य GPU clouds में normalized करने पर लगभग ~$0.30/घंटा के बराबर, और कुछ प्रतिस्पर्धियों से सस्ता।
  • GPU में 20GB VRAM है: 13B‑class models और quantized बड़े LLMs के लिए पर्याप्त, लेकिन गंभीर training के लिए सीमित माना जाता है; inference या छोटे‑पैमाने tuning के लिए बेहतर।
  • साझा किए गए benchmarks: Mixtral variants स्वीकार्य रूप से चलते हैं (दर्जनों tokens per second), लेकिन VRAM‑सीमित हैं, और कभी‑कभी CPU offload की आवश्यकता पड़ती है।
  • कई टिप्पणीकारों का तर्क है कि वास्तविक training के लिए A5000/A6000/A40/L40(Ada) जैसी cards या A100‑class instances पर छोटे bursts अधिक उपयुक्त हैं।

लागत: hardware किराए पर लेना बनाम खरीदना / बड़ा cloud

  • निरंतर workloads के लिए raw compute पर Hetzner अक्सर प्रमुख clouds से 3–10× सस्ता होता है।
  • बताई गई वजहें: bulk hardware buying, सस्ता datacenter power, custom servers/racks, और aggressive cost engineering।
  • Tradeoffs: किराए पर लेना asset ownership और resale value का त्याग है, लेकिन capex, co-location fees, और hardware management से बचाता है।
  • Spiky या short-lived GPU jobs के लिए, pay-per-second clouds (जैसे GCP, अन्य) मासिक Hetzner GPU की तुलना में अधिक economical हो सकते हैं।