Apple quiere que la IA se ejecute directamente en su hardware en lugar de en la nube
La apuesta de Apple por ejecutar la IA generativa directamente en iPhones y otros dispositivos se ve como una forma de mejorar la privacidad, reducir la dependencia de la infraestructura en la nube y habilitar funciones más rápidas y fiables, como una Siri mucho mejor o el procesamiento de imágenes y texto en el dispositivo. Los comentaristas están divididos sobre si el hardware actual —especialmente la RAM limitada— es suficiente para modelos de lenguaje grandes útiles, pero muchos señalan que los modelos más pequeños ya funcionan bastante bien en iPhones y iPads recientes. Más allá de los retos técnicos, esta estrategia se percibe tanto como una medida de ahorro para Apple como un posible motor de futuros ciclos de actualización de hardware en un mercado de smartphones ya saturado.
IA en el dispositivo vs. IA en la nube
- Muchos ven la inferencia en el dispositivo como el “siguiente paso” para los teléfonos: menor latencia, uso sin conexión y mejor privacidad.
- Otros señalan que los modelos en la nube seguirán siendo más capaces debido a tamaños de modelo mayores y acceso a más datos; lo local a menudo será “suficientemente bueno”, no lo mejor.
- Son comunes las visiones híbridas: modelo base y contexto personal en el dispositivo, con llamadas opcionales a la nube para eventos actuales o tareas pesadas.
Siri y asistentes de voz
- Hay una fuerte demanda de una Siri significativamente mejorada; algunos dicen que una Siri funcional, al nivel de un LLM, por sí sola justificaría cambiar de teléfono.
- La frustración es generalizada: comportamiento inconsistente, “incantaciones” rotas, regresiones aleatorias y mala gestión de múltiples usuarios.
- Algunos sostienen que un LLM podría arreglar la robustez y la comprensión; otros quieren que Apple primero corrija la estabilidad básica antes de añadir complejidad.
Hardware, modelos y rendimiento
- Se debate la históricamente baja RAM de Apple: 8 GB se considera ajustado para los LLM modernos, aunque los iPad/Mac de gama alta actuales ya pueden ejecutar localmente modelos de 7B–13B.
- El ancho de banda/la RAM, no el almacenamiento, se ve como el principal cuello de botella; los modelos deben caber en memoria.
- Se cita la investigación reciente de Apple sobre inferencia de LLM con poca memoria como un intento de sortear estas limitaciones.
- Algunos esperan coprocesadores de IA dedicados y, posiblemente, una categoría de dispositivos centrada en IA.
Privacidad, modelo de negocio y costos
- La IA en el dispositivo encaja con el mensaje de privacidad de Apple y reduce sus facturas de cómputo en la nube.
- Varios señalan que Apple prefiere vender hardware de alto margen antes que ejecutar inferencias costosas gratis.
- Hay interés en mejoras opcionales basadas en la nube, pero surgen dudas sobre quién pagaría y cómo (suscripciones, paquetes).
Ecosistema, apertura y regulación
- Hay escepticismo sobre si Apple permitirá modelos de IA arbitrarios a nivel de sistema; la expectativa es un único asistente “oficial”.
- Contrapunto: las APIs actuales (Core ML, Neural Engine) ya permiten modelos de terceros en el dispositivo, aunque no como reemplazos de Siri.
- Se discute la presión de la UE sobre la apertura de la App Store; no está claro hasta qué punto esto se extenderá a modelos y asistentes de IA.
IA en el dispositivo y UX existentes
- Los usuarios informan de experiencias sólidas con funciones en el dispositivo: búsqueda de contenido en fotos, Live Text, descripción de imágenes y procesamiento de Siri en el Apple Watch.
- Estas funciones de IA “invisibles” se citan como prueba de que Apple lleva años invirtiendo en ML local, aunque no se haya presentado como IA generativa.