Apple revela una nueva arquitectura de IA construida en torno a los modelos Gemini de Google

Artículo original ↗ Discusión en Hacker News ↗

La nueva pila de “Apple Intelligence” de Apple combina sus propios modelos fundacionales en el dispositivo con un modelo en la nube de gama alta basado en Gemini que se ejecuta en GPU NVIDIA en Google Cloud, lo que plantea dudas sobre cuánto de la nueva capacidad de Siri es realmente de Apple frente a Google. Los comentaristas se centran en las afirmaciones de privacidad en torno a Private Cloud Compute de Apple, debatiendo si el hardware de computación confidencial y las auditorías externas protegen de forma significativa los datos del usuario cuando intervienen infraestructura de terceros y puertas traseras legales. El movimiento también intensifica el escrutinio sobre la decisión de Apple de retrasar las funciones en la UE bajo el Digital Markets Act, su dependencia de un competidor móvil directo en lugar de OpenAI o Anthropic, y si los asistentes estrechamente integrados pero cerrados deberían permitir a los usuarios elegir proveedores de IA alternativos.

Arquitectura y elecciones de modelos

  • Apple describió cinco “Apple Foundation Models” (AFMs): dos en el dispositivo (Core, Core Advanced) y tres en la nube (Cloud, Cloud Image, Cloud Pro).
  • Se dice que Cloud Pro está al nivel “Gemini frontier” y que se ejecuta en GPU NVIDIA en Google Cloud bajo el Private Cloud Compute (PCC) de Apple; los demás se ejecutan en Apple Silicon.
  • Todo excepto Cloud Pro se describe como modelos personalizados de Apple “refinados” usando Gemini; los comentaristas especulan que esto significa alguna forma de destilación o ajuste fino, pero los detalles no están claros.
  • Algunos enlaces afirman que el AFM inicial en el dispositivo tenía ~3B de parámetros; la gente señala que la nueva pila es “más complicada” que eso.

Calidad de Gemini y alucinaciones

  • Varios participantes se quejan de que Gemini público (especialmente el “AI mode” de búsqueda) es inexacto y alucina; algunos prefieren Claude o ChatGPT.
  • Otros distinguen el modo de IA de Google Search de la app/API de Gemini, y dicen que esta última es mucho mejor, especialmente en los niveles de pago (por ejemplo, Ultra).
  • Se elogian los modelos locales basados en Gemma en teléfonos, pero algunos informan que el Gemini local actual en iOS es lento, caluroso y todavía alucina.

Privacidad, Private Cloud Compute y confianza

  • Apple afirma: primero en el dispositivo, PCC para descargar procesamiento, los datos solo se usan por solicitud y no son accesibles para Apple ni para terceros; los investigadores de seguridad pueden verificarlo mediante el diseño publicado de PCC.
  • PCC utiliza computación confidencial (Apple Silicon, y ahora también Intel/NVIDIA en Google Cloud) más relays al estilo OHTTP; las claves se mantienen de modo que, supuestamente, los operadores no pueden inspeccionar los datos.
  • Los partidarios lo consideran la mejor arquitectura de privacidad disponible para inferencia fuera del dispositivo.
  • Los escépticos señalan que los usuarios aún deben confiar en Apple (y en los proveedores de hardware subyacentes, y en la jurisdicción); siguen siendo posibles puertas traseras estatales, zero-days o coerción legal; algunos lo llaman “teatro de seguridad” salvo que se audite de forma independiente y continua.

DMA de la UE, regulación y retraso de funciones

  • Siri AI / Apple Intelligence se retrasa en la UE. Apple culpa al requisito del DMA de paridad de acceso a los datos y acciones del dispositivo para asistentes de terceros.
  • Un lado: dar permisos de nivel Siri a “cualquier app de IA” (leer todos los datos personales, controlar apps) es demasiado arriesgado; Apple hace bien en resistirse.
  • El otro lado: se trata de preservar el lock-in y evitar la competencia; los usuarios deberían poder elegir otros asistentes con permisos explícitos, como ocurre hoy con contactos/fotos.
  • Debate sobre paternalismo frente a autonomía del usuario; algunos sostienen que bastarían salvaguardas y prompts del sistema, otros creen que los usuarios promedio serán engañados por patrones oscuros al estilo Meta.

¿Por qué Google (y no otros)?

  • Se comentan varias razones:
    • La fortaleza de Google en modelos pequeños/de borde (Gemma, Gemini en el dispositivo) y trabajo previo en IA de borde.
    • Enorme capacidad de cómputo (TPUs, GPUs, centros de datos) y disposición para alojar los propios AFMs de Apple bajo PCC.
    • Una asociación de búsqueda multimillonaria ya existente y una percepción de estabilidad corporativa frente a laboratorios más recientes.
  • Muchos piensan que los modelos se están convirtiendo en commodities; la verdadera diferenciación será la integración, la orquestación y la UX de Apple.

Elección del usuario, lock-in y asistentes de terceros

  • Algunos quieren una forma a nivel de sistema de conectar modelos alternativos (Claude, Mistral, DeepSeek, autoalojados) detrás de las mismas APIs de Apple Intelligence.
  • Otros argumentan que Apple no operará (ni está obligada a operar) los modelos de todos en PCC, y que enrutar abiertamente a nubes arbitrarias debilitaría las garantías de privacidad.
  • El debate del DMA reaparece aquí: si “el mismo acceso que Siri” debería aplicarse solo a APIs en el dispositivo o también a backends en la nube.

Siri, UX e integración con apps

  • Muchos dicen que la Siri heredada era “terrible” y son escépticos de que reutilizar la marca Siri cambie la percepción.
  • Charlas técnicas sobre App Intents y Shortcuts sugieren una capa agéntica profunda: la IA puede coordinarse entre apps, cambiar contraseñas, reservar viajes, etc.
  • Algunos están entusiasmados con una integración a nivel de sistema que los chatbots de terceros no pueden igualar; otros temen una automatización frágil (por ejemplo, que la IA cambie mal las contraseñas) y modos de fallo complejos.

Opiniones sobre la estrategia general de IA de Apple

  • Crítica: Apple está “extrañamente retrasada”, depende de otros para la IA central, muestra pérdida de liderazgo en innovación y un exceso de enfoque en operaciones.
  • Visión contraria: Apple hizo bien en no quemar decenas de miles de millones entrenando modelos frontier; ahora puede alquilar o co-desarrollar modelos una vez que el panorama esté más claro.
  • Varios señalan que Apple se ha posicionado desde hace tiempo como una empresa de hardware+integración, no como un laboratorio de búsqueda/IA; tratar el modelo como un detalle de implementación intercambiable encaja con esa filosofía.