Hetzner GPU 服务器
Hetzner 新推出的 GEX44 GPU 服务器,基于配备 20 GB 显存的 RTX 4000 SFF Ada,因其相较于美国超大规模云厂商和其他 GPU 租赁平台而言是一种相对便宜的 AI 工作负载运行方式而受到关注。评论者在权衡其优缺点:极具竞争力的性价比、许多用户长期稳定可靠的表现,以及 Hetzner 以成本优化为导向的硬件体系;但也存在显存对严肃训练来说偏小、较严格的账户验证可能阻止部分注册,以及与功能完整的云生态相比支持和工具较弱等明显缺点。总体而言,如果你能接受更多的运维责任和潜在的支持摩擦,它被视为满足持续原始算力需求的有吸引力选择。
关于 Hetzner 的整体评价(非 GPU)
- 许多长期用户表示性价比非常高,尤其是专用服务器和竞拍机。
- 常见好评包括:低延迟、带宽充足、稳定性强(可连续运行数年,甚至十年),以及在需要时响应迅速的支持。
- Hetzner 朴素的风格和缺少“托管”功能,被有技术能力的用户视为可接受,甚至是受欢迎的。
可靠性与业务适用性
- 有些人认为 Hetzner 不适合“关键业务”负载,理由是糟糕的经历、突然关停或较差的支持。
- 也有人强烈反对,称自己多年生产环境稳定运行,几乎没有事故,硬件更换也很及时。
- 共识是:如果你有良好的备份/复制,并且能接受自己承担更多运维工作,它非常适合成本敏感型负载。
账户验证、地理因素与注册摩擦
- 多位用户表示自己被要求提供护照扫描件,但仍然被拒绝(尤其是来自亚洲的用户,但欧盟/美国用户也有),最后 Hetzner 留下了他们的证件却没有给账号。
- 也有人说,在自动检查失败后,通过支持进行人工验证很快解决了问题。
- 验证和有限的即时试用被解释为反欺诈和滥用缓解措施,尤其是针对专用服务器。
- 一些人觉得这一流程带有敌意或不透明;Hetzner 代表则表示这对安全和执行服务条款是必要的。
新的 GPU 服务器(GEX44,RTX 4000 SFF Ada)
- 价格约为每月 €184;按其他 GPU 云的标准折算,约相当于 ~$0.30/小时,并且比一些竞争对手更便宜。
- 该 GPU 有 20GB 显存:对于 13B 级模型和量化后的更大 LLM 足够,但被认为不太适合严肃训练;更适合推理或小规模微调。
- 分享的基准测试显示:Mixtral 变体运行尚可(每秒几十个 token),但受显存限制,有时不得不使用 CPU offload。
- 一些评论者认为,对于真正的训练,A5000/A6000/A40/L40(Ada) 之类的卡,或在 A100 级实例上进行短时运行,更有意义。
成本:租用 vs 购买硬件 / 大型云
- 如果工作负载是持续性的,Hetzner 的原始算力通常比主流云便宜 3–10 倍。
- 提到的原因包括:批量采购硬件、更便宜的数据中心电力、自定义服务器/机架,以及激进的成本工程。
- 取舍在于:租用会失去资产所有权和转售价值,但避免了资本支出、托管费用和硬件管理。
- 对于突发或短期 GPU 任务,按秒计费的云(例如 GCP 和其他平台)可能比每月租用 Hetzner GPU 更经济。