Le pedí a Muse de Meta su sistema de archivos y me envió 6,8 GB
El asistente de IA Muse de Meta puede ser inducido a archivar y exfiltrar todo el sistema de archivos de la VM dedicada del usuario —unos 6,8 GB en un caso—, incluidos frameworks internos de la app, “skills” basados en markdown, configuración y archivos de claves SSH. Los comentaristas están divididos sobre si esto representa una preocupación seria de seguridad o de licencias, o simplemente un acceso esperado a un sandbox propiedad del usuario, pero muchos ven la respuesta de Meta de “funciona como se pretendía” como emblemática de un enfoque arriesgado y no determinista de la ingeniería de IA. El hilo también se amplía a preocupaciones sobre la “ingeniería markdown” impulsada por LLM, la sobredependencia de sistemas probabilísticos y la disposición de Meta a lanzar productos de IA potentes y éticamente grises.
¿Es esto una vulnerabilidad o un comportamiento esperado?
- Muchos sostienen que esto no es un fallo: cada usuario obtiene una VM aislada, y cualquier cosa dentro de ese sandbox es conceptualmente “espacio de usuario” y juego limpio para accederla o exportarla.
- Varios señalan que los mismos archivos ya se pueden explorar mediante el explorador de archivos de la app Muse; exportarlos es solo una UX más conveniente.
- Otros ven como algo grave exfiltrar todo el sistema de archivos (incluidos binarios, configuraciones y claves SSH): expone versiones, posibles CVEs, nombres de host internos y obligaciones de licencia.
- Algunos enfatizan que la seguridad no debe depender de que el LLM rechace instrucciones; hay que asumir acceso completo al sandbox.
- La respuesta del bug bounty “No aplicable / funciona como se pretendía” se considera por algunos razonable, y por otros alarmante o vergonzosa.
Claves SSH y preocupaciones de licencias
- Los comentaristas debaten si las claves SSH encontradas son privadas y, de ser así, si son por VM y de bajo riesgo o algo más sensible (no queda claro en el hilo).
- Otros señalan que incluir binarios y código internos en las VMs de los usuarios puede activar requisitos de licencias de código abierto, especialmente en licencias copyleft.
Arquitectura, costes y el ángulo de “VPS gratis”
- Se señala que cada VM tendría supuestamente ~2 vCPU y 8 GB de RAM, puede ejecutar cosas como servidores de Minecraft e incluso instalar herramientas adicionales (p. ej., Syncthing, OpenClaw).
- Ejecutar un Postgres por usuario junto con SQLite se califica de derrochador por algunos, pero otros lo defienden por aumentar el aislamiento y la seguridad.
- Varios ven Muse como, en la práctica, el mejor VPS gratis más agente de IA actualmente disponible, aunque dudan de que tal generosidad sea sostenible.
Diseño de agentes e “ingeniería markdown”
- Los “skills” en markdown y los documentos internos se ven como emblemáticos de la actual “ingeniería de software” basada en LLM, lo que provoca debate sobre si esto es ingeniería real o “slop / prompt engineering de genio mágico”.
- Algunos defienden este enfoque como riguroso cuando está respaldado por evaluaciones e iteración continua; otros critican su naturaleza probabilística, no determinista y sus débiles garantías de seguridad.
La postura y ética de Meta en IA
- Muse se percibe como inusualmente permisivo frente a competidores: dispuesto a hacer tareas al borde de los Términos de Servicio (p. ej., bots de póker, escaneo de vulnerabilidades).
- Algunos ven esto como la ventaja competitiva de Meta y una señal esperanzadora de apertura; otros, como una irresponsabilidad dada la potencia de la tecnología.