Mejor LLM para cada presupuesto, actualizado a diario

Artículo original ↗ Discusión en Hacker News ↗

Una herramienta web que clasifica los mejores modelos de lenguaje grandes por coste está despertando interés, pero también críticas por datos desactualizados y por usar métricas simples de coste por millón de tokens. Los comentaristas sostienen que el coste por tarea completada, los límites de suscripción y el precio de caché importan mucho más en la práctica, y muchos apuntan en cambio a Artificial Analysis o a sus propios benchmarks para elegir modelos. El hilo también destaca una división creciente entre usuarios que dependen de acceso barato por API a modelos chinos o de gama media como DeepSeek y Qwen, y quienes invierten en hardware local para ejecutar modelos abiertos, intentando equilibrar capacidad, latencia, privacidad y coste real.

Reacción general al sitio

  • La gente aprecia una forma limpia y visual de comparar modelos, pero muchos consideran que los datos están desactualizados o son engañosos.
  • Las pestañas de coding y math van por detrás de los lanzamientos actuales (p. ej., siguen mostrando GPT‑5.2 como frontera en matemáticas, y faltan o aparecen solo parcialmente Opus 5.5 y modelos más nuevos de DeepSeek).
  • Varios dicen que parece un simple envoltorio sobre Artificial Analysis (AA), con menos funciones y menos matices.

Crítica a las métricas de coste

  • La principal queja: el coste por 1M tokens es “ingenuo”.
  • Los usuarios argumentan que lo que importa es:
    • El coste por tarea, no por token.
    • Cuántos tokens necesita un modelo para alcanzar una calidad dada (verbosidad, longitud del “thinking”).
    • El precio de caché, que puede dominar los costes en flujos de trabajo de programación y agentic.
  • El “cost per task” de AA y sus gráficos de uso de tokens se citan con frecuencia como superiores; algunos señalan diferencias llamativas (por ejemplo, algunos modelos frontier usan 4–5x más tokens por tarea que sus pares).

Suscripciones vs APIs de pago por token

  • Muchas personas pagan de su bolsillo:
    • Algunas gastan solo unos pocos dólares al mes mediante DeepSeek/OpenRouter y lo encuentran más barato que las suscripciones.
    • Otras agotan rápidamente suscripciones de 100–200 dólares/mes y luego vuelven a APIs baratas.
  • Compromiso:
    • Las suscripciones suelen ofrecer un valor unitario mucho mejor, pero tienen límites de tasa opacos o en ráfagas.
    • Las APIs cuestan más por token, pero ofrecen fiabilidad, automatización y flexibilidad multi-proveedor.
  • La gente quiere herramientas que tengan en cuenta las cuotas de suscripción y ayuden a optimizar la “efficiency” del límite de uso.

Modelos locales vs en la nube

  • Algunos prefieren firmemente los modelos locales y no entienden “tirar dinero” a SaaS.
  • Otros responden que:
    • Los modelos de gama alta (nivel Astra/Fable/Opus) no son viables localmente.
    • El hardware más la electricidad pueden hacer que la inferencia local sea comparable o más cara que modelos cloud muy baratos como DeepSeek Flash.
  • Varios usuarios comparten configuraciones locales concretas (Macs con 32–128GB de RAM; GPUs ejecutando Qwen/Gemma/Bonsai), usándolas para coding en segundo plano, planificación y tareas “chore”.

Benchmarks, matices y funciones deseadas

  • Escepticismo ante cualquier ranking de un solo número; las barras de error y la agregación hacen que los resultados sean ruidosos.
  • Piden:
    • Métricas de múltiples ejes (verborrea, persistencia, “thinking ahead”, comportamiento en bucles).
    • Suites de evaluación específicas por usuario y por tarea.
    • Herramientas que incorporen hardware, VRAM, local vs cloud y acuerdos de paquetes reales.
  • Algunos siguen encontrando que la presentación de este sitio es más accionable de inmediato que la de AA, aunque la metodología subyacente sea más débil.