El CEO de Google califica Gemini de completamente inaceptable y promete hacer cambios estructurales
La IA Gemini de Google ha recibido críticas tras generar imágenes racial e históricamente inexactas, lo que llevó al CEO de la empresa a calificar los resultados de “completamente inaceptables” y a prometer correcciones estructurales. Los comentaristas sostienen que los problemas se deben menos a la calidad central del modelo y más a guardrails de “equidad” demasiado agresivos, a la cultura interna y a la falta de QA eficaz o voces disidentes. El incidente se ve como parte de un patrón más amplio de deterioro de la calidad de los productos, sesgo ideológico en los sistemas de IA de las grandes tecnológicas y la dificultad de equilibrar seguridad, precisión y confianza del usuario.
Sentimiento general sobre Google y Gemini
- Muchos consideran que los fallos de Gemini eran previsibles dada la cultura de las grandes tecnológicas en torno a la “equidad en ML” y la aversión al riesgo.
- Algunos sostienen que no se trata de un error menor, sino de un síntoma de problemas organizativos y culturales profundos; otros creen que es una sobrecorrección vergonzosa pero corregible.
- Una minoría defiende el historial de Google, señalando su dominio en búsqueda, correo, mapas, vídeo, etc., y ve Gemini como un sistema de alto rendimiento pero mal ajustado.
Guardrails, RLHF y reescritura de prompts
- Los comentaristas creen que el problema central no es la capacidad bruta del modelo, sino capas de guardrails, RLHF y reescritura de prompts que intentan “mejorar” las respuestas.
- Se comentan ejemplos como modelos que añaden instrucciones del estilo “sé diverso” a los prompts, el uso de AIs de moderación separadas y la reescritura secreta de las consultas del usuario antes de la generación de imágenes.
- Algunos describen esto como un intento de imponer un modelo del mundo “con color de rosa” o ideológico sobre sistemas entrenados con la realidad desordenada.
Diversidad vs. precisión e intención del usuario
- Un bando apoya la diversidad por defecto (por ejemplo, que no todos los médicos sean hombres blancos) y lo ve como razonable y a menudo beneficioso.
- Otro bando ve la diversidad forzada más allá de lo plausible (por ejemplo, nazis negros, papas mujeres, monarcas británicos no blancos) como engañosa, “posverdad” o propagandística.
- Muchos subrayan que, si un usuario pide explícitamente determinadas demografías o representaciones históricamente precisas, el sistema debería cumplirlo o negarse claramente, no alterar la solicitud en silencio.
- Hay debate sobre si el objetivo debería ser:
- “Proporcional a la demografía del mundo real”,
- “Proporcional a los datos de entrenamiento”, o
- Resultados explícitamente sesgados para contrarrestar el sesgo social.
Cultura de Google, DEI y disenso interno
- Varios comentaristas afirman que la mayoría de los ingenieros de base son escépticos o apáticos respecto a los esfuerzos de DEI/“antirracismo”, pero temen hablar.
- Otros replican que las afirmaciones sobre una “mayoría silenciosa” son anecdóticas y que el personal más joven comparte en gran medida las normas morales actuales.
- Algunos vinculan el comportamiento de Gemini a un pequeño pero poderoso grupo ideológico interno; otros culpan a la cobardía estructural y a la falta de equipos de QA/ética con poder real.
Liderazgo, estrategia y competencia
- Sundar Pichai es criticado como un administrador de “tiempos de paz” sin visión, que llegó tarde a varios mercados (vídeo de formato corto, videoconferencia, cloud gaming, IA generativa).
- Algunos piden un cambio de liderazgo; otros argumentan que Google sigue ejecutando bien en general y que construir modelos del nivel de GPT-4 es intrínsecamente difícil.
- Se hacen comparaciones con OpenAI: varios señalan el anterior comportamiento paternalista y el sesgo político de OpenAI, pero dicen que desde entonces se ha acercado a una neutralidad aceptable, especialmente en productos más nuevos.