El CEO de IBM dice que los modelos de pesos abiertos ya son buenos y baratos en local
La afirmación de IBM de que los modelos de IA de pesos abiertos ya son lo bastante potentes y baratos como para ejecutarse en local ha reavivado el debate sobre si las empresas deberían autoalojar la IA o depender de modelos de “frontera” en la nube de OpenAI, Anthropic y otros. Los comentaristas sopesan las ventajas y desventajas entre GPUs caras y complejidad operativa, por un lado, y precios subvencionados por token, bloqueo del proveedor, censura y riesgos para la privacidad de los datos, por el otro. Muchos sostienen que los modelos abiertos, que mejoran rápidamente, ya son “lo bastante buenos” para la mayoría de las cargas de trabajo y que el coste, el control y la incertidumbre sobre los precios a largo plazo empujarán a más empresas —y a algunos usuarios avanzados— hacia despliegues locales o autoalojados.
El papel y los motivos de IBM
- Muchos ven la afirmación del CEO como “hablando de su libro”: IBM vende hardware y consultoría on‑prem, así que elogiar la IA on‑prem de pesos abiertos encaja con sus intereses.
- Algunos sostienen que IBM podría desafiar a NVIDIA dada su historia en hardware, capital y experiencia en chips, pero otros dicen que ya no es la IBM de la era del PC y que está lastrada por una dirección disfuncional y una cultura de extracción de rentas.
- Unos pocos señalan que los modelos Granite de IBM y su hardware Power/Z son técnicamente impresionantes, pero caros y de nicho.
Calidad de los modelos de pesos abiertos
- Varios comentaristas dicen que los modelos modernos de pesos abiertos (DeepSeek v4.1 Flash, GLM 5.x, Qwen 3.8, Kimi K3.1) son “lo bastante buenos” para programación seria, trabajo con contexto largo y flujos de trabajo agénticos, a veces cerca o al nivel de “Opus 4.x”.
- Para muchas tareas con humano en el bucle, pequeñas diferencias de calidad frente a los mejores modelos de frontera son aceptables.
Economía: on‑prem frente a la nube
- Quienes alojan sus propios modelos informan de equipos considerables (p. ej., ~25.000 $, varias GPU, kilovatios de consumo) que les permiten evitar por completo las API de pago, pero admiten que no es más barato que las suscripciones subvencionadas actuales.
- Otros argumentan que la nube/API es más económica para la mayoría de los usuarios: por ejemplo, planes LLM de 100–200 €/mes o servidores GPU de ~200 €/mes, frente a poseer racks infrautilizados.
- Se cita a DeepSeek como objetivo de amortizar el hardware en ~10 meses; con una utilización similar, hay poco arbitraje en autoalojar salvo que el gasto sostenido en API sea alto. La utilización y el ajuste de la inferencia se consideran las partes difíciles.
Privacidad, control y censura
- Tema dominante: los modelos on‑prem/de pesos abiertos aportan privacidad, evitan compartir datos sensibles o sujetos a NDA y eliminan filtros del proveedor, negativas y posibles informes a las autoridades.
- Las configuraciones locales también evitan futuras subidas de precios, limitaciones de tasa, bloqueos o cambios de política.
Hardware, GPU y fosos del ecosistema
- CUDA y la pila de software de NVIDIA se consideran un foso importante; IBM u otros necesitarían años de trabajo serio en el ecosistema para competir.
- Las GPU de segunda mano son caras y escasas; la RAM y la VRAM se ven como los verdaderos cuellos de botella. Algunos prevén una caída brusca eventual de la demanda, pero no pronto.
Adopción empresarial y perspectivas de la IA de frontera
- Las empresas tienen dificultades para integrar la IA en sus flujos de trabajo y carecen de ingenieros de kernel, red e inferencia, algo que IBM presenta como una oportunidad de consultoría.
- Varios prevén una meseta de “lo bastante bueno”: la mayor parte del trabajo se hará con modelos más baratos/de pesos abiertos, con la SOTA de frontera reservada para casos de nicho, lo que cuestiona la economía de entrenamientos de frontera cada vez más grandes.