CEO da Google chama Gemini de completamente inaceitável e promete fazer mudanças estruturais
A IA Gemini da Google enfrentou reação negativa após gerar imagens racialmente e historicamente imprecisas, levando o CEO da empresa a classificar os resultados como “completamente inaceitáveis” e prometer correções estruturais. Comentadores argumentam que os problemas decorrem menos da qualidade central do modelo e mais de guardrails excessivamente zelosos de “fairness”, da cultura interna e da falta de QA eficaz ou vozes dissidentes. O incidente é visto como parte de um padrão mais amplo de queda na qualidade de produtos, viés ideológico em sistemas de IA de big tech e da dificuldade de equilibrar segurança, precisão e confiança do usuário.
Sentimento geral sobre Google e Gemini
- Muitos veem as falhas do Gemini como previsíveis dada a cultura de big tech em torno de “ML fairness” e aversão ao risco.
- Alguns argumentam que isso não é um bug menor, mas um sintoma de problemas organizacionais e culturais profundos; outros acham que é uma correção excessiva embaraçosa, porém consertável.
- Uma minoria defende o histórico da Google, apontando seu domínio em busca, e-mail, mapas, vídeo etc., e vê o Gemini como de alto desempenho, mas mal ajustado.
Guardrails, RLHF e reescrita de prompts
- Comentadores acreditam que o problema central não é a capacidade bruta do modelo, mas camadas de guardrails, RLHF e reescrita de prompts que tentam “melhorar” as saídas.
- Exemplos discutidos: modelos anexando instruções no estilo “seja diverso” aos prompts, usando AIs separadas de moderação e reescrevendo secretamente consultas de usuários antes da geração de imagens.
- Alguns descrevem isso como tentar impor um modelo de mundo “cor-de-rosa” ou ideológico a sistemas treinados na realidade confusa.
Diversidade vs. precisão e intenção do usuário
- Uma corrente apoia diversidade padrão (por exemplo, nem todos médicos homens brancos) e vê isso como razoável e frequentemente benéfico.
- Outra corrente vê diversidade forçada além do plausível (por exemplo, nazistas negros, papas mulheres, monarcas britânicos não brancos) como enganosa, “pós-verdade” ou propagandística.
- Muitos enfatizam que, se um usuário pede explicitamente demografias específicas ou representações historicamente precisas, o sistema deve obedecer ou recusar claramente, e não alterar silenciosamente a solicitação.
- Há debate sobre se o objetivo deve ser:
- “Proporcional à demografia do mundo real”,
- “Proporcional aos dados de treinamento”, ou
- Saídas explicitamente enviesadas para contrabalançar o viés social.
Cultura da Google, DEI e dissenso interno
- Vários comentadores afirmam que a maioria dos engenheiros de base é cética ou apática em relação a iniciativas de DEI/“anti-racismo”, mas teme se manifestar.
- Outros rebatem, dizendo que alegações sobre uma “maioria silenciosa” são anedóticas e que os funcionários mais jovens em grande parte compartilham as normas morais atuais.
- Alguns ligam o comportamento do Gemini a um pequeno, mas poderoso, grupo ideológico interno; outros culpam a covardia estrutural e a falta de equipes de QA/ética com poder real.
Liderança, estratégia e concorrência
- Sundar Pichai é criticado como um gestor de “tempo de paz” sem visão, que chegou tarde a vários mercados (vídeo de formato curto, videoconferência, cloud gaming, IA generativa).
- Alguns pedem mudança de liderança; outros argumentam que a Google ainda executa bem no geral e que construir modelos do nível do GPT-4 é intrinsecamente difícil.
- São feitas comparações com a OpenAI: vários notam o anterior “nannying” e viés político da OpenAI, mas dizem que ela desde então se aproximou de uma neutralidade aceitável, especialmente em produtos mais novos.