Thelio Mira AI Linux Workstation: 192 GB de memoria GPU

Precio y valor

• El precio base ($3.3k) frente a la configuración máxima ($40–50k) sorprende a muchos; varios califican el precio de “insano” o “obsceno” para una workstation.
• ~88% de una configuración de ~$42k son solo las dos GPUs RTX Pro 6000; la RAM y la PSU representan una pequeña fracción.
• Algunos lo comparan con comprar un coche de $80k: para profesionales de seis cifras, una herramienta de trabajo costosa es defendible; otros señalan que muy poca gente compra realmente coches a ese precio.
• Varios comentarios dicen que, a ese nivel, preferirían comprar una sola H100, una workstation usada de grado servidor o simplemente usar GPUs en la nube.

Configuración de hardware y energía

• GPUs: dos RTX Pro 6000 (96 GB cada una, 192 GB de VRAM total) es la opción estrella; las tarjetas no son reembolsables y son extremadamente costosas.
• Preocupaciones sobre térmicas y ruido: dudas sobre apilar tarjetas de workstation, los espacios de refrigeración y si todas las configuraciones realmente se prueban.
• La elección de CPU (Ryzen 9950X) se critica como “de juguete” o con escasez de líneas PCIe para dos GPUs de gama alta; algunos argumentan que Threadripper/Xeon sería más apropiado a este precio.
• Se discute cómo la velocidad de la memoria DDR5 cae con dos DIMMs por canal y la falta de una plataforma HEDT moderna.
• El alto consumo implica la necesidad de PSUs potentes, UPS y posiblemente mejoras en la instalación eléctrica del hogar/oficina.

Rendimiento frente a alternativas (Macs, H100, etc.)

• Hay consenso en que dos RTX 6000 superan a Apple Silicon (por ejemplo, M5 Ultra) para computación pura en GPU, especialmente para tasas de prefill/tokens en LLM.
• Otros argumentan que, por el mismo dinero, varios Mac Studio (con grandes pools de memoria unificada) podrían ejecutar modelos densos mucho más grandes, aunque el ancho de banda por GPU sea menor.
• Se considera que Apple hoy es más lenta para el procesamiento de prompts, pero gana ancho de banda en cada generación; algunos ven a los Macs como opciones silenciosas, bien aceptadas y con buena RAM, aunque aún por detrás de Nvidia en velocidad bruta.
• Debate sobre si comparar RTX Pro 6000 con H100 es justo: H100 es de grado centro de datos, con más ancho de banda y cómputo.

Casos de uso, longevidad y decisiones de compra

• Algunos compradores lo plantean como un gasto de empresa que se paga solo en productividad; otros dicen que la rotación de modelos y el rápido aumento de los requisitos de VRAM hacen arriesgada una compra así.
• Arrepentimiento por no haber comprado antes 4090 más baratas; temor de que las continuas subidas de precios puedan “poner fin a la era de la computación personal” y empujar a los usuarios de vuelta al “big iron”/recursos compartidos.
• Se plantean ideas de cooperativas de GPU (propiedad compartida de grandes cajas de GPU) en lugar de workstations personales ultra caras.

SO, ecosistema y percepción del proveedor

• Se elogia a System76 y Pop!_OS por el hardware abierto y las máquinas de larga vida útil.
• Escepticismo sobre que las empresas que gastan más de $40k elegirían Pop!_OS sobre Ubuntu, aunque System76 también vende sistemas Threadripper/Xeon mediante otros SKU.

Problemas de marketing y comunicación

• El eslogan de “asequible” y el precio destacado de $3,299 se ven como engañosos dado que la configuración insignia de IA cuesta un orden de magnitud más.
• Se señala la línea de “192 GB de memoria GPU”: algunos argumentan que, si las GPUs solo se comunican por PCIe, llamar a eso un único pool de “memoria GPU” es cuestionable.