Los SSD han llegado a ser rápidos, salvo en la nube

Artículo original ↗ Discusión en Hacker News ↗

El almacenamiento SSD en la nube suele ofrecer mucho menos throughput y una latencia más alta que los NVMe modernos de consumo, incluso en instancias “optimizadas para almacenamiento” de los grandes proveedores. Los comentaristas atribuyen esta diferencia a decisiones arquitectónicas como el almacenamiento conectado por red o fuertemente virtualizado, firmware conservador y nivelación de desgaste, y diseños que priorizan la durabilidad y la migración en vivo por encima de la velocidad bruta. El debate se amplía a una crítica de la economía y las abstracciones de la nube, y muchos sostienen que, para cargas intensivas en IO o estables, el hardware dedicado o de colo con NVMe local puede ser mucho más rápido y barato que las opciones de nube pública.

Nube vs. bare metal y proveedores más pequeños

  • Muchos sostienen que las cargas de trabajo intensivas en IO están mal atendidas por las grandes nubes: las IOPS y el throughput son caros y están limitados; los servidores dedicados o el colo con NVMe son “muchísimo más baratos” para un uso sostenido.
  • Otros responden que el TCO debe incluir energía, espacio, ancho de banda, repuestos y personal; para equipos pequeños, la descarga operativa de la nube puede compensar el ahorro en hardware.
  • Entre las alternativas sugeridas a AWS están DigitalOcean, Hetzner, OVH, Scaleway, UpCloud (almacenamiento en bloque rápido), Entrywan, OCI y varias opciones de PaaS gestionado (p. ej., Supabase). Se expresaron preocupaciones sobre las congelaciones por verificación de identidad de Hetzner.
  • Hay un interés activo en configuraciones híbridas: usar la nube para elasticidad y desbordamiento, pero ejecutar las cargas de trabajo estables e intensivas en IO en metal propio o alquilado.

Por qué los SSD de la nube rinden peor

  • Un tema recurrente: gran parte del “SSD” en la nube está conectado por red (EBS, PD-SSD, discos gestionados de Azure) con:
    • Mayor latencia que el NVMe local.
    • Ancho de banda compartido entre muchos inquilinos.
    • Capas adicionales (hipervisores, firmware, planificadores) que sacrifican el rendimiento máximo a cambio de equidad, durabilidad y latencia predecible.
  • Contraargumento: todas las grandes nubes también ofrecen SSD realmente local/de instancia (AWS instance store, GCP Local SSD, discos temporales/en caché de Azure) conectados por PCIe, pero:
    • Son efímeros (los datos se pierden al detener o migrar).
    • Aun así están limitados muy por debajo de las velocidades de los NVMe modernos de consumo, probablemente por la virtualización y el firmware del controlador.

Benchmarks y anécdotas

  • Múltiples informes de NVMe de consumo o de pequeños servidores (3–7 GB/s, ~1–1,5M IOPS, decenas de µs de latencia) superando de forma masiva a:
    • Las instancias optimizadas para almacenamiento de AWS, que en la práctica ofrecen ~2–3 GB/s por dispositivo y ~500k IOPS de 4k.
    • Los SSD Premium de Azure, que muestran 0,4–3 ms de latencia; el caché SSD local/discos temporales de Azure puede alcanzar ~40 µs y acelerar drásticamente las bases de datos.
  • Algunos consideran que las CPU de la nube también se sienten más lentas frente a especificaciones similares sobre el papel; se sospecha de la virtualización y de generaciones más antiguas en los SKU baratos.

Latencia, arquitectura y compensaciones

  • Para bases de datos y cargas con mucho índice, la latencia de acceso aleatorio y las cadenas de dependencias importan más que el ancho de banda bruto; el almacenamiento en red perjudica aquí.
  • El SSD local usado como caché (p. ej., “SSD cache” de Rails, read-caching de Azure) puede ser casi tan eficaz como la RAM para muchas cargas web, a un coste mucho menor.
  • Debate sobre diseñar para “escala planetaria” en la nube frente a empezar con una sola caja potente (SQLite/Postgres + mucha RAM/NVMe) y añadir complejidad distribuida solo cuando realmente haga falta.

Economía, incentivos y tendencias

  • Varios comentaristas afirman que las nubes capturan la mayor parte de las ganancias de los avances en hardware (NVMe, CPUs más nuevas) mediante precios y limitaciones; el rendimiento por dólar mejora lentamente para los clientes.
  • Se percibe un movimiento pequeño pero creciente hacia on-prem/híbrido, especialmente para cargas de trabajo de IA y analítica grandes e intensivas en datos.
  • Algunos especulan que los SSD/GPU locales baratos y las preocupaciones por la privacidad podrían empujar más funcionalidades de vuelta a los clientes gruesos, aunque las limitaciones móviles siguen siendo un freno.