Apple revela una nueva arquitectura de IA construida en torno a los modelos Gemini de Google

Artículo original ↗ Discusión en Hacker News ↗

Arquitectura y elecciones de modelos

  • Apple describió cinco “Apple Foundation Models” (AFMs): dos en el dispositivo (Core, Core Advanced) y tres en la nube (Cloud, Cloud Image, Cloud Pro).
  • Se dice que Cloud Pro está al nivel “Gemini frontier” y que se ejecuta en GPU NVIDIA en Google Cloud bajo el Private Cloud Compute (PCC) de Apple; los demás se ejecutan en Apple Silicon.
  • Todo excepto Cloud Pro se describe como modelos personalizados de Apple “refinados” usando Gemini; los comentaristas especulan que esto significa alguna forma de destilación o ajuste fino, pero los detalles no están claros.
  • Algunos enlaces afirman que el AFM inicial en el dispositivo tenía ~3B de parámetros; la gente señala que la nueva pila es “más complicada” que eso.

Calidad de Gemini y alucinaciones

  • Varios participantes se quejan de que Gemini público (especialmente el “AI mode” de búsqueda) es inexacto y alucina; algunos prefieren Claude o ChatGPT.
  • Otros distinguen el modo de IA de Google Search de la app/API de Gemini, y dicen que esta última es mucho mejor, especialmente en los niveles de pago (por ejemplo, Ultra).
  • Se elogian los modelos locales basados en Gemma en teléfonos, pero algunos informan que el Gemini local actual en iOS es lento, caluroso y todavía alucina.

Privacidad, Private Cloud Compute y confianza

  • Apple afirma: primero en el dispositivo, PCC para descargar procesamiento, los datos solo se usan por solicitud y no son accesibles para Apple ni para terceros; los investigadores de seguridad pueden verificarlo mediante el diseño publicado de PCC.
  • PCC utiliza computación confidencial (Apple Silicon, y ahora también Intel/NVIDIA en Google Cloud) más relays al estilo OHTTP; las claves se mantienen de modo que, supuestamente, los operadores no pueden inspeccionar los datos.
  • Los partidarios lo consideran la mejor arquitectura de privacidad disponible para inferencia fuera del dispositivo.
  • Los escépticos señalan que los usuarios aún deben confiar en Apple (y en los proveedores de hardware subyacentes, y en la jurisdicción); siguen siendo posibles puertas traseras estatales, zero-days o coerción legal; algunos lo llaman “teatro de seguridad” salvo que se audite de forma independiente y continua.

DMA de la UE, regulación y retraso de funciones

  • Siri AI / Apple Intelligence se retrasa en la UE. Apple culpa al requisito del DMA de paridad de acceso a los datos y acciones del dispositivo para asistentes de terceros.
  • Un lado: dar permisos de nivel Siri a “cualquier app de IA” (leer todos los datos personales, controlar apps) es demasiado arriesgado; Apple hace bien en resistirse.
  • El otro lado: se trata de preservar el lock-in y evitar la competencia; los usuarios deberían poder elegir otros asistentes con permisos explícitos, como ocurre hoy con contactos/fotos.
  • Debate sobre paternalismo frente a autonomía del usuario; algunos sostienen que bastarían salvaguardas y prompts del sistema, otros creen que los usuarios promedio serán engañados por patrones oscuros al estilo Meta.

¿Por qué Google (y no otros)?

  • Se comentan varias razones:
    • La fortaleza de Google en modelos pequeños/de borde (Gemma, Gemini en el dispositivo) y trabajo previo en IA de borde.
    • Enorme capacidad de cómputo (TPUs, GPUs, centros de datos) y disposición para alojar los propios AFMs de Apple bajo PCC.
    • Una asociación de búsqueda multimillonaria ya existente y una percepción de estabilidad corporativa frente a laboratorios más recientes.
  • Muchos piensan que los modelos se están convirtiendo en commodities; la verdadera diferenciación será la integración, la orquestación y la UX de Apple.

Elección del usuario, lock-in y asistentes de terceros

  • Algunos quieren una forma a nivel de sistema de conectar modelos alternativos (Claude, Mistral, DeepSeek, autoalojados) detrás de las mismas APIs de Apple Intelligence.
  • Otros argumentan que Apple no operará (ni está obligada a operar) los modelos de todos en PCC, y que enrutar abiertamente a nubes arbitrarias debilitaría las garantías de privacidad.
  • El debate del DMA reaparece aquí: si “el mismo acceso que Siri” debería aplicarse solo a APIs en el dispositivo o también a backends en la nube.

Siri, UX e integración con apps

  • Muchos dicen que la Siri heredada era “terrible” y son escépticos de que reutilizar la marca Siri cambie la percepción.
  • Charlas técnicas sobre App Intents y Shortcuts sugieren una capa agéntica profunda: la IA puede coordinarse entre apps, cambiar contraseñas, reservar viajes, etc.
  • Algunos están entusiasmados con una integración a nivel de sistema que los chatbots de terceros no pueden igualar; otros temen una automatización frágil (por ejemplo, que la IA cambie mal las contraseñas) y modos de fallo complejos.

Opiniones sobre la estrategia general de IA de Apple

  • Crítica: Apple está “extrañamente retrasada”, depende de otros para la IA central, muestra pérdida de liderazgo en innovación y un exceso de enfoque en operaciones.
  • Visión contraria: Apple hizo bien en no quemar decenas de miles de millones entrenando modelos frontier; ahora puede alquilar o co-desarrollar modelos una vez que el panorama esté más claro.
  • Varios señalan que Apple se ha posicionado desde hace tiempo como una empresa de hardware+integración, no como un laboratorio de búsqueda/IA; tratar el modelo como un detalle de implementación intercambiable encaja con esa filosofía.