Eu Não Gosto de LLMs
Reações fortes ao ensaio “I Don’t Like LLMs”, de Martin Fowler, destacam uma divisão entre ver os grandes modelos de linguagem como ferramentas indispensáveis e achar sua “voz de LLM” e seus erros confiantes irritantes ou indignos de confiança. Muitos comentaristas relatam uso diário intenso para programação, busca e tarefas pessoais apesar de profundo ceticismo quanto à precisão, à personalidade e aos valores embutidos por seus criadores. Um tema recorrente é que as LLMs são melhor tratadas como máquinas falíveis, e não como شبه-pessoas, com alguns argumentando que interfaces de chat antropomorfizadas e a degradação da busca na web estão empurrando os usuários para um pensamento superficial e homogeneizado.
Percepção da “voz” e personalidade das LLMs
- Muitos detestam a “voz” padrão das LLMs: prolixa, cautelosa, autocongratulatória, de falso arrependimento e “parecida com a de uma assistente executiva”.
- Alguns dizem que esse tom provoca ansiedade ou irritação mais do que o próprio conteúdo.
- Outros argumentam que a voz é facilmente corrigida (“basta orientar de forma diferente”), enquanto contraexemplos observam prolixidade persistente mesmo com instruções fortes e “modos concisos”.
- Debate sobre antropomorfismo: alguns nunca sentem que esses sistemas sejam pessoas; outros acham que as interfaces convidam intencionalmente a essa ilusão, o que consideram manipulador ou assustador.
Utilidade vs. falta de confiabilidade
- Reconhecimento generalizado de que as LLMs são extremamente úteis para programação, descoberta em pesquisa, ajuda com impostos, contratos etc.
- Muitos equilibram “muito úteis” com “não confio nada na saída factual; tudo precisa ser verificado”.
- Alguns as tratam como mecanismos avançados de busca/linters e evitam ler sua prosa para não absorver informações erradas.
- Irritação por ter de refutar constantemente respostas incorretas, especialmente no contexto profissional.
LLMs como ferramentas, não colegas de trabalho
- Vários comentaristas enquadram as LLMs como ferramentas ou compiladores, não como agentes com quem se deva “conversar”.
- As melhores experiências vêm de interações curtas e imperativas: “emita comandos, receba artefatos”, não conselhos de vida nem discussões profundas.
- Alguns evitam explicitamente recursos de memória/“personalidade”; outros exploram a memória por conveniência (por exemplo, treinos, notas) sem sentir que isso faça o sistema “conhecê-los”.
Confiança, segurança e agentes
- Forte ceticismo quanto a agentes autônomos controlando infraestrutura ou bancos de dados; recomendação de manter IA longe de comandos destrutivos e usar “circuit breakers” determinísticos.
- Discordância sobre se falar em “enxames de agentes tomando o controle” sugere erroneamente agência independente da IA ou é apenas uma abreviação para humanos usando mal as ferramentas.
- Preocupação de que focar em cenários de ficção científica desvie a atenção dos danos reais de hoje: atores mal-intencionados usando IA para fazer coisas ruins de forma mais eficiente.
Busca, acesso à informação e a web
- Alguns sentem que a busca tradicional e a web foram tão degradadas por anúncios/SEO que as LLMs agora são a única forma prática de extrair informações.
- Outros respondem que mecanismos de busca melhores, blogs, comunidades e até bibliotecas ainda funcionam se alguém se esforçar.
- As LLMs são elogiadas como ferramentas de descoberta para artigos acadêmicos e alternativas de software mais baratas, às vezes até substituindo aplicativos pagos.
Discussão cultural e meta-discussão
- Debate sobre se os modelos atuais refletem uma cultura e um sistema de valores específicos de startups/brogrammers.
- Questionamento de opiniões de “influenciadores” sobre LLMs, especialmente de pessoas percebidas como não estando mais na prática.
- Frustração com “gotchas” sarcásticos, zombarias de quedas do site e a toxicidade crescente nas discussões sobre IA, לצד participantes que defendem a discordância franca como algo normal.