A Ilusão de Claude
O ceticismo em relação às alegações de figuras de topo da tecnologia sobre IA “super-humana” sustenta este debate em torno de uma publicação de blog que critica Bill Gates e outros por excesso de confiança fora das suas áreas de especialidade. Os comentadores discutem se o sucesso numa área confere autoridade para julgar as capacidades da IA em campos como biologia ou engenharia de software moderna, e se os modelos de ponta são verdadeiramente transformadores ou apenas ferramentas impressionantes com limites acentuados. Paralelamente, alguns levantam preocupações sobre o impacto projetado da IA no consumo de energia e nas emissões de CO₂, enquanto outros descartam narrativas de clima e de “apocalipse da IA” como exageradas ou baseadas em extrapolações especulativas.
Clima, CO₂ e IA/Centros de Dados
- Vários comentadores contestam a afirmação do artigo de que a IA/os centros de dados “reverteram” 15 anos de reduções de CO₂ nos EUA, citando gráficos públicos de emissões que mostram apenas um aumento recente, e não uma reversão de longo prazo.
- Outros respondem que a preocupação é com as emissões futuras já comprometidas por enormes construções de centros de dados e turbinas a gás, argumentando que as projeções mostram aumentos grandes o suficiente para anular ganhos passados.
- Os céticos veem essas projeções como semelhantes a uma bolha, assumindo níveis de construção irrealistas e subestimando a eficiência futura, as renováveis e possivelmente a energia nuclear.
- O paradoxo de Jevons é debatido: alguns acham que os ganhos de eficiência serão engolidos pela procura; outros dizem que a procura não é infinita e que as extrapolações muitas vezes estão erradas.
- Preocupação mais ampla: mesmo que o uso atual de energia/água pela IA seja modesto, os planos de construção e os bloqueios de política podem ser muito prejudiciais; outros acham que o “pânico energético da IA” está exagerado.
Especialização, Excesso de Confiança e “Humildade Epistémica”
- Muitos concordam que o sucesso numa área pode gerar excesso de confiança noutras; exemplos invocados incluem acidentes na aviação privada, planeamento local e opinião especializada em campos desconhecidos.
- Alguns criticam o artigo por ser ele próprio excessivamente confiante e gatekeeping, exigindo credenciais formais antes que alguém possa testar ou opinar sobre IA, biologia, etc.
- Outros defendem o autoestudo sério e os “especialistas amadores”, argumentando que as pessoas podem tornar-se competentes em várias áreas sem diplomas.
- É levantada a noção de “transgressão epistémica”: especialistas a vaguear por outras áreas sem apreciar os desconhecidos desconhecidos.
Bill Gates, Questões de Biologia e Especialização em Programação (como estudo de caso)
- Um grande fio de discussão debate se um líder veterano da tecnologia está qualificado para:
- Conceber questões de biologia “novas” ao nível do ensino secundário, fora dos dados de treino.
- Julgar com autoridade o desempenho de LLMs em biologia ou programação moderna.
- Críticos: a sua profunda experiência em programação é de há décadas; os ecossistemas e práticas de software modernos são muito diferentes; ser um ex-programador rico não lhe dá autoridade atual.
- Defensores: realizações passadas e longa exposição ao software fazem dele um juiz razoável do progresso na programação; qualquer pessoa sólida num assunto e envolvida com o campo pode escrever novas questões ao nível do ensino secundário.
- Alguns veem o uso deste exemplo pelo artigo como logicamente fraco ou contraditório; outros acham que ilustra bem o excesso de confiança e a retórica de “super-humano”.
Capacidades, Limites e Hype dos LLMs
- Vários comentadores relatam em primeira mão que os modelos de ponta são transformadores para programação e engenharia reversa, por vezes superando largamente a sua própria velocidade e capacidade.
- Outros sublinham a fragilidade e a inteligência “irregular”: os modelos conseguem construir sistemas funcionais, mas incorporam suposições erradas, têm dificuldade com design profundo e falham em tarefas ao nível de robustez (por exemplo, sistemas distribuídos seguros, fiabilidade de 5 noves).
- Há debate sobre “super-humano”: alguns dizem que igualar um humano de topo mais velocidade incansável justifica a expressão; outros argumentam que isso não é mais profundo do que chamar “super-humano” a calculadoras ou comboios em aspetos limitados.
- Por baixo disto corre uma divisão entre quem vê a IA atual como algo que muda o mundo e quem vê hype, danos sociais e incentivos anti-humanos a dominar a expansão.