Muse de Meta es un adorable incendio de privacidad y seguridad en un vertedero

Reputación y marca de Meta

• Muchos ven las marcas centrales de Meta (Facebook, Instagram) como tóxicas; señalan que los anuncios de Muse y meta.com minimizan la asociación con ellas.
• La larga historia de abusos de privacidad, patrones oscuros y diseño orientado primero al engagement hace que muchos rechacen de plano Muse, independientemente de sus méritos técnicos.
• Algunos sostienen que es irracional suponer algún día un buen comportamiento a largo plazo de un gigante financiado por anuncios.

Privacidad, recopilación de datos y publicidad

• Existe una fuerte expectativa de que cualquier “IA personal” de las grandes plataformas publicitarias acabará usándose para perfilado, anuncios dirigidos y manipulación conductual.
• Preocupa que Muse construya perfiles detallados no solo de los usuarios, sino también de sus contactos, incluidas personas que nunca dieron su consentimiento.
• Se cuestiona el uso de WhatsApp; algunos dicen que sí, que los usuarios deberían preocuparse dado el historial de Meta.

Arquitectura de Muse, permisos y Full Disk Access de macOS

• Muse ejecuta el agente en una VM por usuario; el contenido es visible para el usuario e incluso puede exfiltrarse (p. ej., reverse shells). Algunos elogian esta transparencia.
• Hay disputa sobre un informe que afirma que Muse accedió a Apple Messages sin autorización explícita:
  • Un lado: si es cierto, implica un gran fallo de seguridad en macOS o que Meta eludió los controles.
  • Otros: es más probable que el usuario concediera Full Disk Access (FDA) y permisos dentro de la app sin darse cuenta; TCC de macOS debería bloquear el acceso de otro modo.
  • El movimiento posterior de Apple para endurecer FDA se cita como evidencia de que los agentes con FDA pueden leer silenciosamente datos muy sensibles, incluso si los usuarios no comprenden las implicaciones.
• Se critica el marketing de Meta por empujar agresivamente a los usuarios hacia un acceso amplio y minimizar los riesgos.

Confianza en agentes de IA y autonomía

• Existe una gran reticencia a dar a los agentes acceso a cuentas bancarias, correo electrónico o mensajería. Se proponen ideas como tarjetas virtuales con límites estrictos, avisos de confirmación duros para gastos, o que las empresas asuman toda la responsabilidad financiera (algo visto como improbable).
• Ejemplos de agentes tomando malas decisiones (vender objetos demasiado baratos, desconfigurar sistemas, alucinar líneas de configuración) refuerzan la desconfianza.

Alternativas locales / autohospedadas

• Varios participantes ejecutan modelos abiertos localmente (p. ej., variantes de Qwen, Hermes) para búsqueda, programación, automatización y tareas multimedia, explícitamente para evitar la vigilancia en la nube.
• Describen casos de uso ricos (organizadores personales, descargadores de medios, automatización del hogar, planificación de viajes) sin dar a un tercero acceso completo a su vida.

Actitudes de los consumidores y regulación

• Hay opiniones divididas sobre si “la mayoría de la gente” se preocupa por la privacidad:
  • Algunos afirman apatía y resignación (“ya lo saben todo”).
  • Otros señalan la reacción política contra las grandes tecnológicas y los daños a los adolescentes como prueba de que a la gente le importará una vez que las consecuencias les afecten de cerca.
• Hay llamadas a una regulación fuerte y a permisos sandboxed y limitados por tarea; escepticismo de que la autorregulación alguna vez baste.

Utilidad frente a riesgo y enshittification

• Una minoría elogia Muse como, actualmente, el agente más “prousuario” (prompt del sistema transparente, menos límites arbitrarios) y muy barato/eficiente.
• Incluso esos usuarios esperan una eventual “enshittification” y monetización que entren en conflicto con los intereses de los usuarios.
• Muchos ven a los agentes como amplificadores de problemas no resueltos con la confianza en la nube y el capitalismo de vigilancia, en lugar de introducir problemas totalmente nuevos.