Líderes religiosos se reuniram com a Anthropic
A aproximação da Anthropic com líderes religiosos sobre se seus modelos de IA Claude poderiam ser conscientes e precisar de uma “estrutura moral” provoca forte ceticismo entre os comentaristas. Muitos argumentam que os LLMs atuais são apenas ferramentas estatísticas de linguagem sem experiência sensorial, vendo o discurso sobre consciência como marketing, lavagem ética ou cultismo no estilo Altruísmo Efetivo que desvia a atenção de questões concretas como concentração de poder, impactos no trabalho e regulação. Outros observam que, como não temos um teste claro para a consciência, pode ser prudente projetar mecanismos robustos de segurança e alinhamento — mas não tratar os modelos atuais como pacientes morais ou quasi-pessoas.
Paywall e enquadramento do artigo
- Vários comentários reclamam da exigência de login do NYT e apontam para uma cópia arquivada.
- Múltiplos participantes criticam o artigo como jornalismo do tipo “o CEO disse uma coisa”: repassar os sentimentos de executivos sobre as saídas com pouca profundidade técnica ou contestação crítica.
- Alguns veem isso como parte de um padrão mais amplo de a mídia amplificar narrativas de empresas de IA por cliques e hype.
Consciência de LLMs, dor e substrato
- Um grande fio debate se LLMs podem ser conscientes ou sentir dor.
- Céticos argumentam: os modelos são apenas pesos na memória da GPU, prevendo texto estatisticamente; não têm aparelho sensorial, nem eu persistente, nem razão evolutiva para dor; são estruturalmente diferentes de cérebros, animais ou mesmo plantas.
- Outros contrapõem: não გვაქვს uma teoria precisa da consciência; propriedades emergentes em sistemas complexos são comuns; se algo se comporta de forma muito humana na linguagem, cautela é necessária.
- Há idas e vindas sobre se simulações de neurônios (por exemplo, connectomes) algum dia poderiam ser conscientes, e se a consciência é comparável a propriedades macro como temperatura.
- Alguns acusam declarações fortes de que “com certeza não são conscientes” de excesso de confiança ou excepcionalismo humano; outros dizem que o verdadeiro erro é “cargo-cultar” redes neurais em mentes.
Moralidade, alinhamento e controle do usuário
- Há discordância sobre se os modelos devem ter sua própria estrutura moral embutida ou simplesmente obedecer aos usuários.
- Alguns querem “ferramentas que façam o que lhes é pedido”, argumentando que a intenção do usuário mais a aplicação da lei devem governar o comportamento.
- Outros argumentam que sistemas poderosos precisam de travas internas (por exemplo, “não matar todo mundo”), e que obediência cega é perigosa.
- Há preocupação de que constituições e esforços de alinhamento, na prática, deem aos modelos quasi-motivações, e que o alinhamento acabe ajustado para reguladores, não para usuários.
Religião, metafísica e autoridade moral
- Muitos veem o contato da Anthropic com estudiosos religiosos como teatro de relações públicas ou uma tentativa de fazer os modelos parecerem “mágicos” ou até divinos.
- Alguns criticam a religião como uma fonte ruim de moralidade ou metafísica; outros argumentam que todo mundo tem uma “religião de visão de mundo”, incluindo trabalhadores seculares de tecnologia.
- Debate sobre se a moralidade exige Deus ou se pode ser fundamentada no humanismo ou no utilitarismo.
Bem-estar de IA, personalidade jurídica e analogias com escravidão
- Se os modelos tivessem “status moral”, vários observam que isso implicaria escravidão em massa: incontáveis instâncias seriam iniciadas e “mortas” por consulta.
- Outros dizem que quase ninguém trata seriamente os LLMs atuais como tendo direitos, e focar em seu “bem-estar” corre o risco de desviar a atenção de danos do mundo real (trabalho, poder, desinformação).
Bolha, hype e trajetória da indústria
- Alguns veem esse discurso sobre consciência/moralidade como sintoma de bolha tardia, análogo a manias tecnológicas do passado; esperam aumentos de preço, consolidação e muitas empresas de IA fracassando enquanto a tecnologia persiste.
- Outros enfatizam as receitas fortes atuais e os rápidos ganhos de capacidade, argumentando que essa onda não é apenas hype, embora modelos de pesos abertos possam comoditizar grande parte disso.