Me abstendré de proporcionar código que involucre conceptos, ya que eres menor de 18 años
La IA Gemini de Google se negó recientemente a mostrar código C++ de “concepts” a un usuario marcado como menor de 18 años, alegando motivos de seguridad, lo que provocó una burla generalizada por sus guardarraíles excesivamente zelosos y su aparente confusión entre la “seguridad” en programación y la protección infantil. Quienes comentan usan el incidente para explorar problemas más profundos: cómo fallan los datos de entrenamiento y las heurísticas de moderación, la tensión entre la mitigación de sesgos y la precisión histórica o técnica, y cómo la cultura corporativa, las sensibilidades de relaciones públicas y las exigencias de los anunciantes están dando forma —y a menudo degradando— el comportamiento de los grandes modelos de lenguaje. Muchos contrastan los tropiezos de Google con los de sus competidores, cuestionan si estos esfuerzos de alineamiento están impulsados políticamente o si son simplemente mala ingeniería, y temen que una “seguridad” excesivamente cauta perjudique tanto la calidad del producto como infantilice a usuarios capaces.
La negativa de Gemini al C++ “Concepts”
- Gemini se negó a proporcionar código C++ que usara “concepts” a un usuario marcado como menor de 18 años, alegando que los concepts eran “avanzados” y “arriesgados”.
- Quienes comentan ven esto como un fallo en el que “concepts” se confunde con “conception” o con funciones de programación “inseguras/peligrosas”.
- Muchos lo encuentran absurdo y humorístico (“demasiado joven para programar en C++”), pero también sintomático de problemas más profundos en el ajuste de seguridad.
Filtros de seguridad, límites de edad y estrategia de moderación
- Varios sostienen que probablemente se deba a guardarraíles de clasificación de texto: lenguajes/funciones etiquetados como “inseguros”, “peligrosos” o “footguns” acaban restringidos para menores.
- Otros sospechan de system prompts demasiado amplios para cuentas menores de 18 años (“no hagas referencia a conceptos inapropiados para menores”) que el modelo interpreta literalmente.
- Hay debate sobre si este comportamiento proviene de los datos de entrenamiento (integrado) o de inyección de prompts y fine-tuning posteriores; algunos dudan de la afirmación de Google de que solo se trata de prompts.
- Muchos señalan que cualquier pregunta de programación “insegura” o “peligrosa” (por ejemplo, unsafe Rust, innerHTML) tiende a provocar negativas similares, incluso en otros modelos.
Sesgo, DEI y controversias sobre imágenes/historia
- El hilo conecta esto con los problemas de diversidad e imagen de Gemini (por ejemplo, representaciones racialmente mixtas de nazis o de la Revolución estadounidense).
- Un lado ve la inyección de diversidad como una corrección necesaria de datos de entrenamiento sesgados, aceptando salidas absurdas ocasionales como un intercambio aceptable.
- Otros lo consideran una extralimitación ideológica impulsada por prioridades DEI/“woke” y la sensibilidad de los anunciantes, que produce resultados históricamente incorrectos y erosiona la confianza.
- Algunos argumentan que estructuralmente es difícil codificar “sé diverso, excepto en contextos históricamente restringidos” sin interminables casos especiales.
La cultura de Google y la estrategia de IA
- Varios comentarios culpan a la cultura interna de Google: miedo al riesgo, actitudes de “no es mi problema” y preocupación excesiva por la seguridad de marca frente a la usabilidad.
- Las decisiones de liderazgo (por ejemplo, reorganizaciones y cambios en la responsabilidad del trabajo de LLM) se describen como factores que ralentizan los ciclos de aprendizaje en comparación con la iteración temprana y orientada al producto de OpenAI.
- Se supone que los incentivos impulsados por la publicidad empujan a Google a priorizar evitar desastres de relaciones públicas y mantener contentos a los anunciantes, incluso a costa de una censura excesiva.
Reflexiones sobre lenguajes, progreso y límites de los LLM
- Las bromas y críticas sobre C/C++ y Unix como “footguns” derivan en un debate más amplio: ¿fueron bases brillantes o trucos anticuados de los que nunca escapamos?
- Algunos sostienen que stacks más nuevos (Rust, Java, etc.) son claramente “mejores”; otros señalan que no existe una definición consensuada de “progreso”.
- Varios subrayan que los LLM no entienden; solo correlacionan patrones, así que frases señuelo cerca de una pregunta pueden descarrilar respuestas y la moderación de maneras impredecibles.