Modelos Fundacionales de Apple

Qué es el Framework Foundation Models de Apple

• API Swift estándar (incluida en iOS/macOS/watchOS/iPadOS/visionOS 27) para modelos de lenguaje.
• Admite ambos:
  • El pequeño modelo en el dispositivo de Apple (SystemLanguageModel).
  • Modelos en la nube integrados mediante un protocolo común LanguageModelSession / LanguageModel (p. ej., Claude, Gemini).
• La misma API gestiona streaming, llamada a herramientas y salida estructurada; las apps pueden cambiar de modelo modificando un solo constructor.

Detalles de la integración de Claude

• Claude se expone como un paquete Swift que implementa el protocolo LanguageModel de Apple.
• Las solicitudes desde el dispositivo van directamente a api.anthropic.com; Apple no está en la ruta de red y no ve los prompts ni las respuestas.
• Claude mediante este framework es solo en la nube; sin conexión, solo sigue funcionando el modelo en el dispositivo de Apple de ~3B parámetros.
• El uso se factura a una cuenta normal de Anthropic con el precio estándar de la API.

Preocupaciones sobre en el dispositivo vs. la nube y el almacenamiento

• El tamaño del modelo actual en el dispositivo de Apple es limitado (alrededor de 3B parámetros); Claude es mucho más grande y sigue siendo del lado del servidor.
• Algunos quieren caché compartida a nivel del sistema para modelos locales de terceros, para evitar que cada app descargue su propia copia; otros señalan que Apple hoy solo desduplica modelos del sistema.
• Hay debate sobre si un único modelo predeterminado optimizado en el dispositivo es mejor para la UX y los recursos que muchos modelos específicos por app.

Modelo de negocio, bloqueo y control de la UX

• Muchos ven esto como Apple convirtiendo en commodity a los proveedores de LLM mientras mantiene el control sobre la UX general y la marca (“Apple Intelligence” como la capa visible).
• Se especula sobre futuros repartos de ingresos estilo “Intelligence Store” o cortes del 30% en suscripciones de apps impulsadas por IA, aunque la facturación de la API pase directamente por fuera de Apple.
• A algunos les preocupa que Apple pueda favorecer o cambiar proveedores más adelante sin que los usuarios lo noten, reforzando el bloqueo de la plataforma.

Experiencia de desarrollador y claves API

• Para desarrollo, el SDK puede usar una clave API directa; para producción, la documentación recomienda encarecidamente pasar por el backend del desarrollador, que inyecta credenciales.
• Esto evita enviar claves dentro de las apps, pero plantea preocupaciones sobre el acceso del proxy a los prompts y datos de los usuarios.
• A algunos comentaristas no les gusta una UX basada en tokens con coste variable para los usuarios finales; las suscripciones o los modelos locales se consideran más amigables.

Commoditización de modelos y competencia

• El hilo debate si los modelos punteros se están convirtiendo en “commodities” intercambiables o si siguen teniendo diferencias cualitativas sustanciales.
• Hay opiniones mixtas sobre qué laboratorios van por delante, pero existe un amplio consenso en que:
  • La mayoría de los casos de uso de las apps no necesita el rendimiento absoluto de vanguardia.
  • Las API unificadas a nivel del sistema operativo empujarán a muchas apps hacia modelos predeterminados “suficientemente buenos”, dejando las fronteras en la nube para tareas más pesadas.