Automatizámos a Treta
Os críticos argumentam que modelos de linguagem de grande escala como o ChatGPT são “geradores de treta” no sentido filosófico: produzem texto fluente e convincente sem qualquer preocupação intrínseca com a verdade, o que torna os seus erros confiantes especialmente perigosos quando os utilizadores falham em verificar os resultados. Outros contrapõem que, usados como ferramentas por pessoas com conhecimento — por exemplo, para assistência em programação, pesquisa, resumo ou geração de ideias — estes sistemas podem aumentar drasticamente a produtividade, desde que as suas limitações, a qualidade dos dados de treino e a suscetibilidade a uso indevido (como propaganda ou falhas jurídicas) sejam claramente compreendidas.
Utilidade vs. natureza de “treta”
- Muitos comentadores dizem que os LLMs são extremamente úteis para factos difíceis de encontrar, brainstorming, reescrita, resumo e “rubber-ducking” de problemas.
- Outros sublinham que isso não contradiz o facto de serem “geradores de treta”: eles otimizam a linguagem plausível, não a verdade.
- Alguns argumentam que o ensaio subestima esta dualidade: o mesmo mecanismo que produz treta também pode revelar informação valiosa mais depressa do que ferramentas tradicionais.
Verificação, especialização e risco
- Há um forte consenso de que as respostas têm de ser verificadas; vários participantes cruzam habitualmente os resultados.
- Críticos notam que muitos utilizadores não verificam, citando advogados sancionados por submeterem casos fabricados pelo ChatGPT.
- Um ponto recorrente: os LLMs são mais seguros e eficazes quando os utilizadores já têm conhecimento da área para julgar a correção.
- Preocupação: em áreas de alto risco (direito, medicina, políticas públicas), respostas erradas com ar confiante podem ser perigosas, e não existe uma verificação factual integrada para “fechar o ciclo”.
Comparação com motores de busca e Wikipédia
- Alguns acham os LLMs melhores do que o Google para consultas obscuras; outros duvidam dessas anedotas ou atribuem-nas ao declínio do Google.
- A Wikipédia é contrastada: cita fontes e tem correção comunitária; os LLMs não revelam a proveniência e não podem ser corrigidos sistematicamente.
- Vários preveem que os LLMs acabarão por ser tão normalizados como a Wikipédia, mas com modos de falha diferentes.
Definição de “treta” e epistemologia
- Vários comentários referem a definição filosófica: discurso indiferente à verdade, não apenas “falso”.
- Sob este prisma, os LLMs produzem sempre treta, porque modelam a probabilidade do texto, não a realidade nem a intenção.
- Outros contrapõem que isto exagera as coisas: os modelos codificam muita informação correta e comportam-se frequentemente como um leigo informado.
Casos de uso em programação e produtividade
- Muitos programadores relatam grandes ganhos de produtividade: geração de boilerplate, refatoração, documentação, pesquisa de código ao estilo RAG e explicação de snippets.
- Outros registam taxas de erro elevadas, especialmente em linguagens C/C‑like, ou problemas subtis (segurança, casos extremos) que “funcionam”, mas estão errados.
- A visão comum: lembram um assistente brilhante, mas júnior — bom para rascunhos e padrões, não para código de produção sem revisão.
Dados, alinhamento e preocupações sociais
- Alguns atribuem a treta aos dados de treino de qualidade mista (redes sociais, propaganda); outros, à arquitetura (sem modelo do mundo nem verificação factual).
- Entre as preocupações estão: propaganda escalável, burlões, uso indevido em tribunais e erosão da confiança na informação.
- Alguns veem os LLMs apenas como automação das “economias da treta” já existentes (relatórios burocráticos, texto de marketing), com implicações simultaneamente libertadoras e ameaçadoras.