Sistemas de inteligência artificial mostram excelência em imitação, mas não em inovação
Afirmações de que os sistemas de IA atuais se destacam na imitação, mas carecem de inovação verdadeira, provocam debate sobre o que “criatividade” e “compreensão” realmente significam para máquinas treinadas em grande parte com texto e imagens. Os comentaristas contrastam a predição probabilística do próximo token com a experiência humana, a corporeidade, a vontade e os ciclos de feedback, enquanto outros argumentam que recombinação, busca estatística de padrões e self-play já podem produzir resultados novos e úteis. Muitos esperam que sistemas futuros com interação mais rica com o mundo e incentivos explícitos à originalidade reduzam a lacuna de inovação, mas discordam se a culpa é de limites fundamentais ou apenas das configurações atuais de treinamento.
Escopo do estudo e benchmarks
- Vários comentaristas dizem que o artigo equipara implicitamente “IA” aos LLMs atuais e usa um benchmark que se inclina fortemente para raciocínio e tarefas restritas, em que modelos de prateleira são conhecidos por serem fracos.
- Alguns observam que os números brutos (taxas de inovação próximas às humanas em partes da tarefa) fazem a manchete “a IA carece de inovação” parecer uma mudança das traves.
Imitação, composição e “verdadeira” inovação
- Há amplo consenso de que os LLMs se destacam na imitação e, especialmente, na composição: recombinar ideias existentes (código, temas, estilos) em novos artefatos coerentes.
- Visão: a maior parte do trabalho de conhecimento humano também é composição com pequenos ajustes, então os LLMs são concorrentes fortes.
- Visão contrária: a saída da IA muitas vezes parece superficial e distinguível do trabalho humano de alta qualidade; ela ameaça principalmente empregos de conteúdo de menor nível.
Inovação como feedback, vontade e aleatoriedade
- Um lado: inovação exige vontade ou objetivos intrínsecos; as IAs são apenas ferramentas poderosas de busca de objetivos definidas por designers humanos.
- Visão oposta: o que realmente importa é feedback e avaliação, não “vontade”. Self-play e métodos científicos são citados como exemplos de como o feedback impulsiona a criatividade; sistemas futuros que gerem sua própria experiência poderiam inovar mais.
- Outra linha de argumento: toda inovação é alguma mistura de composição e variação (pseudo-)aleatória; críticos respondem que isso ignora a riqueza da experiência sensorial humana e da abstração deliberativa.
Testes de criatividade, abstração e alegoria
- Alguns propõem decodificar alegorias genuinamente novas e padrões abstratos profundos como um teste significativo de criatividade; eles relatam que LLMs se saem mal nessas tarefas.
- Outros contrapõem com relatos de LLMs produzindo analogias não triviais e código de GUI sob medida, argumentando que céticos supervalorizam sistematicamente as falhas.
Alucinações, raciocínio e planejamento
- As alucinações são enquadradas como modelos “falando além do que sabem” sem planejar ou admitir ignorância.
- Mitigações sugeridas incluem complementos de raciocínio, execuções de tree-of-thought e loops automatizados de autocrítica.
Consciência, senciência e definições
- Um grupo vê debates sobre “compreensão”, “senciência” e “consciência” como disputas de vocabulário vago que desviam de capacidades concretas.
- Outro argumenta que as definições ainda importam para ética, direitos e lei, mesmo que não alterem as avaliações técnicas de curto prazo.
Demanda por inovação versus semelhança
- Vários comentaristas observam que muitos mercados (cardápios, franquias de Hollywood, design da moda) na verdade recompensam saídas seguras e familiares mais do que inovação, tornando a imitação no estilo dos LLMs comercialmente atraente.