A Ilusão de Claude

O ceticismo em relação às alegações de figuras de topo da tecnologia sobre IA “super-humana” sustenta este debate em torno de uma publicação de blog que critica Bill Gates e outros por excesso de confiança fora das suas áreas de especialidade. Os comentadores discutem se o sucesso numa área confere autoridade para julgar as capacidades da IA em campos como biologia ou engenharia de software moderna, e se os modelos de ponta são verdadeiramente transformadores ou apenas ferramentas impressionantes com limites acentuados. Paralelamente, alguns levantam preocupações sobre o impacto projetado da IA no consumo de energia e nas emissões de CO₂, enquanto outros descartam narrativas de clima e de “apocalipse da IA” como exageradas ou baseadas em extrapolações especulativas.

Clima, CO₂ e IA/Centros de Dados

  • Vários comentadores contestam a afirmação do artigo de que a IA/os centros de dados “reverteram” 15 anos de reduções de CO₂ nos EUA, citando gráficos públicos de emissões que mostram apenas um aumento recente, e não uma reversão de longo prazo.
  • Outros respondem que a preocupação é com as emissões futuras já comprometidas por enormes construções de centros de dados e turbinas a gás, argumentando que as projeções mostram aumentos grandes o suficiente para anular ganhos passados.
  • Os céticos veem essas projeções como semelhantes a uma bolha, assumindo níveis de construção irrealistas e subestimando a eficiência futura, as renováveis e possivelmente a energia nuclear.
  • O paradoxo de Jevons é debatido: alguns acham que os ganhos de eficiência serão engolidos pela procura; outros dizem que a procura não é infinita e que as extrapolações muitas vezes estão erradas.
  • Preocupação mais ampla: mesmo que o uso atual de energia/água pela IA seja modesto, os planos de construção e os bloqueios de política podem ser muito prejudiciais; outros acham que o “pânico energético da IA” está exagerado.

Especialização, Excesso de Confiança e “Humildade Epistémica”

  • Muitos concordam que o sucesso numa área pode gerar excesso de confiança noutras; exemplos invocados incluem acidentes na aviação privada, planeamento local e opinião especializada em campos desconhecidos.
  • Alguns criticam o artigo por ser ele próprio excessivamente confiante e gatekeeping, exigindo credenciais formais antes que alguém possa testar ou opinar sobre IA, biologia, etc.
  • Outros defendem o autoestudo sério e os “especialistas amadores”, argumentando que as pessoas podem tornar-se competentes em várias áreas sem diplomas.
  • É levantada a noção de “transgressão epistémica”: especialistas a vaguear por outras áreas sem apreciar os desconhecidos desconhecidos.

Bill Gates, Questões de Biologia e Especialização em Programação (como estudo de caso)

  • Um grande fio de discussão debate se um líder veterano da tecnologia está qualificado para:
    • Conceber questões de biologia “novas” ao nível do ensino secundário, fora dos dados de treino.
    • Julgar com autoridade o desempenho de LLMs em biologia ou programação moderna.
  • Críticos: a sua profunda experiência em programação é de há décadas; os ecossistemas e práticas de software modernos são muito diferentes; ser um ex-programador rico não lhe dá autoridade atual.
  • Defensores: realizações passadas e longa exposição ao software fazem dele um juiz razoável do progresso na programação; qualquer pessoa sólida num assunto e envolvida com o campo pode escrever novas questões ao nível do ensino secundário.
  • Alguns veem o uso deste exemplo pelo artigo como logicamente fraco ou contraditório; outros acham que ilustra bem o excesso de confiança e a retórica de “super-humano”.

Capacidades, Limites e Hype dos LLMs

  • Vários comentadores relatam em primeira mão que os modelos de ponta são transformadores para programação e engenharia reversa, por vezes superando largamente a sua própria velocidade e capacidade.
  • Outros sublinham a fragilidade e a inteligência “irregular”: os modelos conseguem construir sistemas funcionais, mas incorporam suposições erradas, têm dificuldade com design profundo e falham em tarefas ao nível de robustez (por exemplo, sistemas distribuídos seguros, fiabilidade de 5 noves).
  • Há debate sobre “super-humano”: alguns dizem que igualar um humano de topo mais velocidade incansável justifica a expressão; outros argumentam que isso não é mais profundo do que chamar “super-humano” a calculadoras ou comboios em aspetos limitados.
  • Por baixo disto corre uma divisão entre quem vê a IA atual como algo que muda o mundo e quem vê hype, danos sociais e incentivos anti-humanos a dominar a expansão.