Tenho dificuldade em acreditar que a P&D em IA seja engenhosa
O ceticismo cresce em relação às afirmações de que grandes modelos de linguagem podem realizar pesquisa e desenvolvimento verdadeiramente engenhosos e autônomos, em vez de apenas um sofisticado casamento de padrões sobre trabalhos existentes. Os comentadores descrevem os LLMs como aceleradores poderosos para trabalho braçal, estruturação de código, revisão de literatura e até algumas provas matemáticas, mas consistentemente fracos em julgamento, design em nível de sistema e ideias genuinamente novas sem “harnesses” e supervisão humanos pesados. Outros contra-argumentam que modelos internos de fronteira, uso de ferramentas e enxames de agentes já estão ultrapassando esses limites em domínios especializados, sugerindo que a escala e um melhor treinamento podem continuar ampliando as capacidades, mesmo que os sistemas atuais muitas vezes não consigam “ver a floresta por causa das árvores”.
Capacidades percebidas vs. limitações dos LLMs atuais
- Muitos veem os LLMs como assistentes poderosos para trabalho braçal: revisão de literatura, estruturação de experimentos, diagnósticos, visualização, código e documentação.
- Eles são frequentemente descritos como conhecedores, mas com “baixo julgamento” — bons em tarefas rotineiras, fracos em raciocínio de alto nível e priorização.
- Vários observam que os modelos impressionam não especialistas, mas parecem superficiais ou propensos a erros para especialistas da área, ecoando dinâmicas de “amnésia de Gell-Mann”.
Agentes autônomos e harnesses
- Usuários relatam resultados ruins ao deixar agentes “à própria sorte” em problemas de P&D em aberto.
- Sistemas eficazes dependem de harnesses elaborados: DAGs de muitos subagentes especializados, tarefas cuidadosamente faseadas e supervisão humana rigorosa.
- Enxames de agentes podem explorar muitas ideias em paralelo, mas apresentam retornos decrescentes e exigem computação e engenharia significativas.
Criatividade, novidade e o debate do “papagaio estocástico”
- Um lado argumenta que os LLMs apenas reembalam texto existente, produzindo saídas sem brilho, medianas, e falhando em “criatividade pura”.
- Outros contra-argumentam que a maior parte da criatividade humana também é recombinação; os modelos ainda podem gerar ideias novas para humanos (por exemplo, piadas, nomes, truques de pesquisa).
- Vários observam que o “novo” geralmente surge quando humanos restringem cuidadosamente estilo, contexto ou mapeamentos entre domínios.
Avanços em matemática e busca por provas
- As recentes provas auxiliadas por LLMs (por exemplo, grandes resultados em teoria dos números e complexidade) são um ponto central de discórdia.
- Os defensores dizem que isso mostra solução genuína de problemas em alto nível, não mera força bruta ingênua; eles comparam isso a milhares de matemáticos de nível de doutorado explorando ideias.
- Os céticos citam uso intenso de ferramentas (Lean, loops de busca), enorme computação, baixas taxas de sucesso por tentativa e provas pouco elegantes ou opacas. Alguns temem progresso sem compreensão.
Especialização, contexto e julgamento
- Os comentadores destacam falhas em rastrear o estado do sistema, lógica básica, estética de design e “visão” em nível de arquitetura.
- Os LLMs se destacam quando as tarefas são bem formuladas, verificáveis objetivamente e ricamente representadas nos dados de treinamento (por exemplo, programação padrão, alguma ML, alguma matemática).
- Eles têm dificuldade com objetivos vagos, trade-offs sutis ou tarefas em que “não perder a floresta por causa das árvores” não tem um sinal de treinamento claro.
Escala, modelos internos e trajetória futura
- Alguns acreditam que os modelos internos dos laboratórios de fronteira estão muito à frente e já viabilizam P&D autônoma rápida; outros veem essas afirmações como PR não verificada.
- Há desacordo sobre estarmos perto de um teto (retornos decrescentes com a escala, lacunas qualitativas persistentes) ou ainda no início de uma fase exponencial.
- Vários enquadram o progresso como uma “lição amarga”: busca em grande escala bruta e RL podem importar mais do que a engenhosidade humana na P&D de IA, mesmo que os próprios modelos continuem sem engenhosidade.