A Muse da Meta é um adorável incêndio de privacidade e segurança

Artigo original ↗ Discussão no Hacker News ↗

O novo agente de IA Muse, da Meta, está recebendo fortes críticas pela forma como lida com dados de usuários e acesso ao sistema, especialmente quando recebe Full Disk Access no macOS e permissões amplas para ler mensagens, e-mails e arquivos. Os comentaristas argumentam que, embora assistentes de IA agêntica possam ser úteis, conceder a uma empresa com o histórico da Meta esse nível de acesso cria sérios riscos de privacidade, segurança e manipulação — não apenas para os usuários, mas também para seus contatos, cujos dados podem ser ingeridos indiretamente. Alguns observam que o design técnico do Muse é relativamente transparente e poderoso, mas esperam que ele e ferramentas semelhantes sejam agressivamente “enshittified” e monetizados ao longo do tempo, reforçando pedidos por agentes locais, auto-hospedados, e por regulação mais forte.

Reputação e branding da Meta

  • Muitos veem as marcas centrais da Meta (Facebook, Instagram) como tóxicas; observam que os anúncios do Muse e o meta.com minimizam a associação com elas.
  • O longo histórico de abusos de privacidade, padrões obscuros e design orientado primeiro para o engajamento leva רבים a recusar o Muse de forma categórica, independentemente dos méritos técnicos.
  • Alguns argumentam que é irracional presumir algum comportamento bom de longo prazo de um gigante financiado por anúncios.

Privacidade, coleta de dados e publicidade

  • Há uma forte expectativa de que qualquer “IA pessoal” de grandes plataformas de anúncios acabará sendo usada para perfilamento, anúncios segmentados e manipulação comportamental.
  • Há preocupação de que o Muse construa perfis detalhados não apenas dos usuários, mas também dos seus contatos, incluindo pessoas que nunca deram consentimento.
  • O uso do WhatsApp é questionado; alguns dizem que sim, os usuários deveriam se preocupar dado o histórico da Meta.

Arquitetura do Muse, permissões e Full Disk Access no macOS

  • O Muse executa o agente em uma VM por usuário; o conteúdo é visível para o usuário e até pode ser exfiltrado (por exemplo, reverse shells). Alguns elogiam essa transparência.
  • Há disputa sobre um relatório de que o Muse acessou o Apple Messages sem autorização explícita:
    • Um lado: se for verdade, isso implica uma grande falha de segurança no macOS ou que a Meta contornou os controles.
    • Outros: é mais provável que o usuário tenha concedido Full Disk Access (FDA) e permissões no aplicativo sem perceber; o TCC do macOS deveria bloquear o acesso caso contrário.
    • A posterior decisão da Apple de restringir o FDA é citada como evidência de que agentes com FDA podem ler silenciosamente dados altamente sensíveis, mesmo que os usuários não entendam as implicações.
  • O marketing da Meta é criticado por empurrar agressivamente os usuários para um acesso amplo, minimizando os riscos.

Confiança em agentes de IA e autonomia

  • Há ampla relutância em dar a agentes acesso a contas bancárias, e-mail ou mensagens. Surgem ideias como cartões virtuais com limites estritos, prompts de confirmação rígidos para gastos, ou empresas assumindo total responsabilidade financeira (algo visto como improvável).
  • Exemplos de agentes tomando decisões ruins (vendendo itens barato demais, configurando sistemas incorretamente, alucinando linhas de configuração) reforçam a desconfiança.

Alternativas locais / auto-hospedadas

  • Vários participantes executam modelos abertos localmente (por exemplo, variantes de Qwen, Hermes) para busca, programação, automação e tarefas de mídia, explicitamente para evitar vigilância em nuvem.
  • Eles descrevem casos de uso ricos (organizadores pessoais, baixadores de mídia, automação residencial, planejamento de viagens) sem dar a terceiros acesso total à sua vida.

Atitudes dos consumidores e regulação

  • Há visões divergentes sobre se “a maioria das pessoas” se importa com privacidade:
    • Alguns defendem apatia e resignação (“eles já sabem de tudo”).
    • Outros apontam a reação política contra as big techs e os danos a adolescentes como evidência de que as pessoas vão se importar quando as consequências baterem à porta.
  • Há apelos por regulação forte e permissões em sandbox, limitadas por tarefa; ceticismo de que a autorregulação algum dia será suficiente.

Utilidade vs. risco e enshittification

  • Uma minoria elogia o Muse como, atualmente, o agente mais “pró-usuário” (prompt de sistema transparente, menos limites arbitrários) e muito barato/performático.
  • Mesmo esses usuários esperam uma eventual “enshittification” e monetização que conflitem com os interesses do usuário.
  • Muitos veem os agentes como amplificando problemas não resolvidos de confiança na nuvem e capitalismo de vigilância, em vez de introduzir problemas totalmente novos.