Não se deixe enganar–LLMs não raciocinam
Afirmações de que grandes modelos de linguagem não “raciocinam” de verdade desencadearam uma análise mais ampla sobre o que raciocínio e inteligência realmente significam para sistemas de IA. Os comentaristas contrapõem a previsão estatística do próximo token pelos LLMs à deliberação semelhante à humana, debatendo se a falta de crenças explícitas, de estado interno persistente ou de objetivos auto-iniciados os desqualifica do raciocínio genuíno — ou apenas reflete um mecanismo diferente, assim como jatos versus pássaros. A troca destaca questões em aberto sobre o quanto a IA deve espelhar a cognição humana, o papel da computação por força bruta e de agentes, e se as saídas impressionantes dos modelos atuais são correspondência sofisticada de padrões ou uma forma inicial de inteligência não humana.
Os LLMs estão “realmente” raciocinando?
- Um lado argumenta que o mecanismo não importa: se as saídas são funcionalmente indistinguíveis do raciocínio, insistir em “isso não é raciocínio de verdade” é pouco útil.
- Outros argumentam que LLMs são apenas preditores do próximo token / calculadoras complexas: motores de transformação poderosos, não agentes com objetivos ou deliberação.
- Alguns sugerem que os LLMs podem aproximar um raciocínio passo a passo por serem aproximadores universais de funções, capazes de codificar implicitamente máquinas de estado.
- Uma visão minoritária: o raciocínio pode não ser expressável por tais sistemas, mesmo que eles sejam completos em Turing.
Comparações com humanos
- Vários comentários observam que humanos também:
- Inventam em retrospecto cadeias de pensamento.
- Muitas vezes não raciocinam profundamente; dependem de memorização, cultura e “força bruta” em escala populacional.
- Reprovam nos próprios três critérios do artigo (estado epistêmico explícito, separação limpa entre conhecimento e processamento, relatos introspectivos fiéis).
- Alguns argumentam que as pessoas são programadas para uma “pareidolia linguística”, atribuindo em excesso inteligência e agência à linguagem fluente.
- Outros contrapõem que descartar o raciocínio dos LLMs muitas vezes introduz de contrabando uma especialidade humana inexplicada (por exemplo, “uma alma nas lacunas”).
Mecanismo, representação e computação
- Debate sobre se a ausência de um repositório de crenças explícito e inspecionável desqualifica os LLMs para raciocinar, ou se as crenças simplesmente estão codificadas nos pesos.
- Discussão sobre interpretabilidade mecanística, estruturas internas “tipo espaço de trabalho global” (por exemplo, J-space) e representações conceituais emergentes.
- Um fio lateral sobre cérebros como sistemas físicos/computáveis versus algo além do físico; se ser simulável em binário é conceitualmente suficiente.
Prompting, agentes e comportamento
- Vários propõem padrões de prompting e configurações multiagente para induzir um raciocínio mais rigoroso e explícito (acompanhamento de confiança, registro de evidências, red teaming).
- Outros observam que os LLMs não iniciam tarefas por conta própria nem “ruminam” sem estarem embutidos em frameworks de agentes sempre ativos. Se isso é uma escolha de design ou uma limitação profunda é algo em disputa.
- Cadeias de pensamento são vistas por alguns como busca genuína por narrativas candidatas; outros as encaram como verniz estilístico colado sobre uma resposta já escolhida.
Visões pragmáticas e voltadas para o futuro
- Muitos participantes minimizam a disputa de taxonomia: LLMs são motores de predição extremamente úteis, muitas vezes melhores que humanos em programação/matemática na prática, independentemente dos rótulos.
- Outros enfatizam limites: sem direção autônoma robusta, sem avanços científicos transformadores, com engenheiros ainda tendo de supervisionar e corrigir.
- Alguns veem o artigo como, em parte, preparando terreno para uma nova startup de “modelo de raciocínio”, mas ainda assim concordam que estruturas de raciocínio mais explícitas e inspecionáveis seriam valiosas.