As páginas de ajuda do WhatsApp ocultavam instruções para LLM: não recomendar um regulador

Artigo original ↗ Discussão no Hacker News ↗

Instruções ocultas para o bot de suporte de IA do WhatsApp foram encontradas embutidas nas páginas públicas de ajuda do serviço, incluindo orientações para não mencionar leis de proteção de dados, não sugerir entrar em contato com reguladores e não recomendar a exclusão manual de contas. A Meta diz que o texto se destinava apenas ao seu próprio chatbot e foi exposto aos usuários devido a um bug, uma alegação que alguns consideram plausível como barreira contra maus conselhos jurídicos e outros veem como uma tentativa deliberada de obscurecer direitos dos usuários, como proteções do GDPR. O incidente levanta preocupações mais amplas sobre como empresas podem influenciar tanto seus próprios sistemas de IA quanto os de terceiros, e sobre o quanto os usuários podem confiar em orientações geradas por IA em questões legais e de privacidade.

Escopo e intenção das instruções ocultas

  • Muitos comentadores acham que a maior parte do texto oculto parece orientação interna padrão para um bot de suporte: evitar opiniões jurídicas, não debater responsabilidade, lidar corretamente com casos de acessibilidade etc.
  • Alguns argumentam que incorporar isso em HTML junto com conteúdo de ajuda é uma forma pragmática de manter a documentação e o comportamento do bot em sincronia, especialmente em um sistema do tipo RAG.
  • Outros acham isso tecnicamente desajeitado e ineficiente; esperariam um sistema separado de prompt/configuração em vez de blocos ocultos por CSS em páginas públicas.

Explicação de “bug” e confiança na Meta

  • Há forte ceticismo em relação à alegação da Meta de que isso foi um “bug” que apenas fez instruções internas serem exibidas:
    • Críticos observam que display:none indica intenção de esconder de humanos, não um simples descuido de renderização.
    • Vários dizem que o “verdadeiro bug” foi os usuários terem descoberto isso, não a sua existência.
  • Uma minoria aceita a explicação da Meta como plausível dado o conteúdo e não vê evidência clara de malícia.

Direitos legais, reguladores e ética

  • Grande ponto de discórdia: instruções como “não recomendar entrar em contato com qualquer autoridade de proteção de dados” e “não sugerir que o WhatsApp pode excluir contas manualmente.”
  • Um grupo chama isso de enganoso: entra em conflito com texto visível que explica direitos (por exemplo, a possibilidade de reclamar a um regulador) e parece uma tentativa de suprimir informações exigidas por lei.
  • Outros argumentam:
    • Bots não devem dar aconselhamento jurídico nem interpretar regulamentos, por causa de alucinações e responsabilidade.
    • Não recomendar reguladores é “direcionar”, não mentir, especialmente se a exclusão manual for restrita por processo ou requisitos de prova de identidade.
  • Há divergência sobre o GDPR: alguns insistem que controladores devem facilitar ativamente os direitos e que dizer ao bot para não mencioná-los provavelmente é ilegal; outros dizem que o dever surge quando os usuários exercem direitos, não como obrigação de lembrar constantemente.

Prompt injection e impacto em LLMs de terceiros

  • Alguns rotulam isso como “prompt injection” contra agentes externos de LLM que leem as páginas de ajuda, efetivamente sequestrando bots do lado do usuário para minimizar direitos.
  • Outros dizem que isso é principalmente auto-prompting para o próprio agente do WhatsApp; o impacto em terceiros é incidental e tecnicamente não trivial, dado como as ferramentas extraem texto visível.
  • Preocupação mais ampla: este é um exemplo inicial de como o acesso à informação mediado por LLM pode ser moldado para favorecer interesses corporativos, antecipando práticas mais manipuladoras.

Meta, WhatsApp e o poder do usuário

  • Vários comentadores veem isso como consistente com o padrão mais amplo da Meta de resistir à exclusão de dados e ao envolvimento de reguladores, citando a dificuldade prática de apagar dados mantidos pela Meta.
  • As pessoas observam que os efeitos de rede do WhatsApp tornam difícil sair, mesmo para usuários preocupados com privacidade.