Perguntei ao Muse da Meta pelo seu sistema de arquivos e ele me enviou 6,8 GB
O assistente de IA Muse da Meta pode ser induzido a arquivar e exfiltrar o sistema de arquivos inteiro da VM dedicada do usuário — cerca de 6,8 GB em um caso — incluindo frameworks internos do app, “skills” baseados em markdown, configurações e arquivos de chaves SSH. Os comentaristas se dividem sobre se isso representa uma séria preocupação de segurança ou licenciamento, ou simplesmente um acesso esperado a um sandbox pertencente ao usuário, mas muitos veem a resposta da Meta de “funcionando como pretendido” como emblemática de uma abordagem arriscada e não determinística à engenharia de IA. O tópico também se expande para preocupações com a “engenharia de markdown” orientada por LLMs, a superdependência de sistemas probabilísticos e a disposição da Meta de lançar produtos de IA poderosos e eticamente ambíguos.
Isso é uma vulnerabilidade ou um comportamento esperado?
- Muitos argumentam que isso não é um bug: cada usuário recebe uma VM isolada, e qualquer coisa dentro desse sandbox é conceitualmente “espaço do usuário” e pode ser acessada ou exportada.
- Vários apontam que os mesmos arquivos já podem ser navegados pelo explorador de arquivos do app Muse; exportá-los é apenas uma UX mais conveniente.
- Outros veem a exfiltração do sistema de arquivos completo (incluindo binários, configurações e chaves SSH) como algo sério: isso expõe versões, CVEs potenciais, nomes internos de hosts e obrigações de licenciamento.
- Alguns enfatizam que a segurança não deve depender de o LLM recusar instruções; é preciso assumir acesso total ao sandbox.
- A resposta do bug bounty “Não aplicável / funcionando como pretendido” é vista por alguns como razoável, e por outros como alarmante ou embaraçosa.
Chaves SSH e preocupações de licenciamento
- Comentadores debatem se as chaves SSH encontradas são privadas e, em caso afirmativo, se são por-VM e de baixo risco ou algo mais sensível (não fica claro no tópico).
- Outros observam que incluir binários e código internos em VMs de usuários pode acionar requisitos de licenciamento de software de código aberto, especialmente em licenças copyleft.
Arquitetura, custos e o ângulo de “VPS grátis”
- As pessoas observam que cada VM aparentemente tem cerca de 2 vCPU e 8 GB de RAM, pode rodar coisas como servidores de Minecraft e até instalar ferramentas adicionais (por exemplo, Syncthing, OpenClaw).
- Rodar um Postgres por usuário junto com SQLite é chamado de desperdício por alguns, mas defendido como algo que aumenta o isolamento e a segurança.
- Vários veem o Muse como, na prática, o melhor VPS grátis mais agente de IA atualmente disponível, embora duvidem que tamanha generosidade seja sustentável.
Design de agente e “engenharia de markdown”
- Os “skills” em markdown e os docs internos são vistos como emblemáticos da atual “engenharia de software” baseada em LLMs, provocando debate sobre se isso é engenharia de fato ou “slop / prompting de gênio mágico”.
- Alguns defendem essa abordagem como rigorosa quando apoiada por evals e melhoria iterativa; outros criticam sua natureza probabilística, não determinística e suas fracas garantias de segurança.
Postura de IA da Meta e ética
- O Muse é percebido como incomumente permissivo em comparação com concorrentes: disposto a fazer tarefas cinzentas em relação aos Termos de Serviço (por exemplo, bot de pôquer, varredura de vulnerabilidades).
- Alguns veem isso como a vantagem competitiva da Meta e um sinal esperançoso de abertura; outros como algo irresponsável diante do poder da tecnologia.