Show HN: Hice una app para usar IA local como herramienta diaria

Artículo original ↗ Discusión en Hacker News ↗

El entusiasmo por una nueva app de macOS que ejecuta modelos de lenguaje localmente se ve moderado por preguntas sobre valor, privacidad y apertura frente a herramientas gratuitas o de código abierto ya existentes. Los comentaristas ponderan las ventajas y desventajas entre IA local y en la nube —capacidad frente a control de los datos—, piden funciones como prompts del sistema, RAG sobre documentos personales, interfaces de voz y soporte multi‑proveedor, y señalan que una distribución cerrada solo para Mac a través de la App Store limita tanto la confianza como el alcance. El tema de fondo es si los clientes nativos, pulidos y de pago pueden justificarse en un ecosistema ya rico en alternativas multiplataforma y abiertas basadas en llama.cpp y backends similares.

Alcance y propósito de la app

  • App de macOS centrada en LLM locales como “herramienta diaria”.
  • Solo es compatible con Apple Silicon; no se admiten Macs Intel.
  • Usa llama.cpp directamente, no Ollama, y puede cargar modelos GGUF personalizados.
  • Algunos usuarios la ven como “Obsidian pero con IA”, orientada al conocimiento personal y al uso local más que a entornos empresariales.

Modelos en línea y prompts del sistema

  • La app ya admite GPT‑3.5/4 mediante la propia clave API del usuario; se planea mayor configurabilidad (URLs base personalizadas/nombres de modelos).
  • Varios comentaristas piden una gestión más rica de prompts del sistema, múltiples prompts por chat y personajes/perfiles.
  • Hay debate sobre cuán esenciales son los prompts del sistema: algunos dicen que son críticos para la calidad de salida; otros apenas los usan.

Privacidad, apertura y confianza

  • Fuerte interés de usuarios que valoran la privacidad y la descentralización por encima de proveedores centralizados.
  • Algunos sostienen que la verdadera privacidad requiere frontends y modelos de código abierto; las apps de código cerrado (incluida esta) se ven con escepticismo.
  • Preocupa que la distribución en la App Store siga requiriendo confiar en Apple y que las apps “locales” puedan exfiltrar datos.
  • Se pide una garantía de privacidad clara, promesas de uso solo local y, posiblemente, distribución fuera de la App Store.

RAG e integración de datos personales

  • Alta demanda de IA local que pueda buscar/resumir documentos personales, marcadores, historial del navegador, correo y archivos.
  • Los usuarios mencionan herramientas RAG existentes y quieren que esta app admita carpetas de archivos markdown/txt/PDF con RAG razonable.
  • Algunos son escépticos sobre la practicidad de la IA local sobre datos personales, ya que muchos datos residen en servicios en la nube protegidos por políticas OAuth/API.

Funciones, UX y accesibilidad

  • Funciones solicitadas: voz a texto/texto a voz, conversaciones ramificadas/editables, atajos de teclado, integración con Shortcuts/CLI, generación de imágenes y mejor onboarding/guía de modelos.
  • Feedback entusiasta sobre la simplicidad, el diseño y el “feeling” de la app; algunos usuarios la compraron de inmediato.
  • Otros cuestionan qué hace mejor que las UIs gratuitas/de código abierto (p. ej., ChatbotUI, Open-WebUI, LM Studio).
  • Un hilo detalla problemas de accesibilidad (botones sin etiquetar, ausencia de regiones en vivo) y sugiere mejoras concretas para lectores de pantalla.

Plataforma y alternativas

  • No hay planes inmediatos para versiones de Windows o Linux; las sugerencias apuntan a usuarios de Windows/Linux hacia otras UIs locales de LLM y herramientas CLI.
  • Hay cierta decepción por las limitaciones de plataforma y la ausencia de prueba, pero varios usuarios consideran que los 10 dólares son un precio justo por una experiencia pulida y nativa.