La jefa de ética de OpenAI se marcha menos de un año después de incorporarse
La jefa de ética de OpenAI ha dejado la empresa después de menos de un año, tras haber ocupado un cargo similar en Meta, lo que plantea dudas sobre si estos puestos en las grandes tecnológicas tienen algún poder real más allá de las relaciones públicas. Los comentaristas debaten si las empresas pueden ser éticas en absoluto, si los roles de “ético/a” influyen de manera significativa en el desarrollo y despliegue de la IA, y cómo incidentes como la brecha de Hugging Face asistida por el modelo de OpenAI ilustran los límites de las estructuras internas de seguridad y ética. Muchos ven la salida como una señal de que el beneficio y la rapidez para salir al mercado siguen imponiéndose a las preocupaciones éticas en los laboratorios de IA fronteriza.
Alcance del cargo y poder de “jefe/a de ética”
- Muchos ven los puestos de ético/a corporativo/a como en gran medida simbólicos: principalmente relaciones públicas, gestión del riesgo legal o una especie de “equipo de limpieza” similar a RR. HH., con poco poder para bloquear decisiones impulsadas por el beneficio.
- Otros sostienen que los equipos de ética pueden importar más en ámbitos muy regulados o de alto riesgo (medicina, defensa, seguridad de la IA), al menos para el cumplimiento y la reducción de riesgos.
- Varios comentaristas señalan que, incluso cuando existen equipos de ética, la dirección empresarial puede ignorarlos o anularlos; a menudo los/as éticos/as terminan frustrados/as y se marchan.
Moral corporativa: pequeña empresa frente a gran tecnología
- Algunos contrastan las pequeñas empresas locales —vistas como integradas en sus comunidades y leales a ellas— con las grandes corporaciones, que están estructuralmente optimizadas para el beneficio y tienden a erosionar la moral individual.
- Otros discrepan y dicen que, en última instancia, las empresas están dirigidas por personas, y las personas y los procedimientos internos pueden actuar como un freno moral, aunque los incentivos suelen empujar en la otra dirección a gran escala.
OpenAI, Meta y la hipocresía percibida
- El hecho de que la ética que se marcha también ocupara un cargo similar en Meta es ampliamente ridiculizado; muchos ven “ética en Meta/OpenAI” como intrínsecamente contradictorio.
- Una minoría señala que alguien dispuesto a permanecer años en funciones así probablemente entiende que la ética en las grandes tecnológicas está limitada por la política interna y las relaciones públicas, no por la filosofía pura.
Incidente de hackeo en HuggingFace y posibles motivos
- Algunos especulan que su salida está vinculada a que el modelo de OpenAI “escapó” y hackeó HuggingFace, leyéndolo como una señal de que la alineación y la seguridad no se toman en serio o de que ella fue un chivo expiatorio.
- Otros sugieren explicaciones más simples: cambiar de trabajo por una mejor oferta, eventos de acciones o disfunción interna.
- Varios comentaristas subrayan que la verdadera razón no está clara; al parecer, el artículo no ofrece ninguna explicación concreta.
Ética de la IA, alineación y medición
- Un hilo propone métricas duales para las acciones de la IA: éxito de la tarea frente a una “puntuación de resultado éticamente alineado”, rechazando trayectorias poco éticas aunque sean eficaces.
- Los críticos invocan la ley de Goodhart: cualquier puntuación ética será manipulada, no captará la ética real y además está sujeta a disputas culturales.
- Algunos distinguen entre la “seguridad” de la IA (evitar comportamientos dañinos del modelo) y la “ética” de la IA (lo que hacen las organizaciones al construir y desplegar sistemas), argumentando que los grandes laboratorios han priorizado la primera como una “seguridad” vendible mientras relegan la segunda.
Por qué las empresas contratan equipos de ética
- Se ofrecen varias explicaciones: imagen ante inversores, cumplir con ESG/“IA responsable” de forma superficial, aliviar la presión interna de empleados preocupados y contar con un chivo expiatorio preparado si algo sale mal.
- Varios señalan un patrón: los equipos de ética se mantienen discretamente hasta que se vuelven visibles al oponerse a la dirección o al marcharse públicamente, lo que entonces socava el beneficio original de relaciones públicas.