Sutskever: la junta de OpenAI está cumpliendo su misión de construir una AGI que beneficie a todos
El despido sorpresa del CEO de OpenAI ha desatado un intenso debate sobre si la empresa está priorizando su misión sin fines de lucro de “AGI en beneficio de la humanidad” o sucumbiendo a luchas internas de poder y a una mala gobernanza. Los comentaristas debaten teorías que van desde la política corporativa mundana y el desajuste sobre la estrategia de comercialización hasta afirmaciones especulativas de que OpenAI podría estar sentada sobre modelos mucho más capaces y no revelados. El hilo también se ramifica hacia un argumento más amplio sobre cuán cerca están los modelos de lenguaje grandes actuales de la inteligencia artificial general, y si un liderazgo centrado en la seguridad significará una productización más lenta o un control más estricto de las capacidades avanzadas.
Junta vs. Altman: motivos y proceso
- Muchos ven el despido como impulsado por preocupaciones de que el CEO era manipulador, obstinado, demasiado centrado en el beneficio/poder y que se estaba alejando de la misión sin fines de lucro de “beneficiar a la humanidad”.
- Otros presentan esos mismos rasgos como comportamiento estándar de un CEO y argumentan que la junta reaccionó de forma exagerada, actuó de manera poco profesional y dañó la confianza.
- La forma abrupta (llamadas sorpresa por Meet, aviso mínimo al liderazgo, sin explicación pública clara) es ampliamente criticada como caótica para una empresa de unos $80B.
- Algunos lo llaman un “golpe” o una toma de poder; otros responden que las juntas existen precisamente para despedir a CEOs que se desvían de la misión.
AGI, avances secretos y seguridad
- Una teoría recurrente: puede haber un modelo interno mucho más capaz que GPT‑4; la junta y el científico jefe lo ven como cercano a la AGI y querían cautela, mientras que el CEO quería un despliegue/monetización agresivos.
- Quienes lo apoyan señalan comentarios públicos sobre “empujar hacia atrás el velo de la ignorancia”, saltos rápidos de capacidades en el futuro y charlas sobre “superinteligencia” e incluso “descubrir nueva física”.
- Muchos comentaristas son profundamente escépticos: consideran que las afirmaciones de AGI en 2023 están en territorio de “gorro de papel de aluminio” y destacan los fallos de los modelos actuales en tareas simples y en pruebas de abstracción.
- Otros sostienen que esos fallos a menudo reflejan decisiones de tokenización/arquitectura, no una falta de “comprensión”, y que las capacidades están mejorando rápido.
Misión, gobernanza y estructura de poder
- Varios señalan la estructura inusual: una junta sin fines de lucro que controla una entidad con fines de lucro con grandes inversores externos, una junta diminuta y miembros con trayectorias corporativas no tradicionales.
- Algunos creen que esta estructura evitó con éxito que el “vendedor” capturara la organización de investigación; otros temen que cree inestabilidad e invite a reacciones legales y de los inversores.
- Sigue sin resolverse el debate sobre si la junta está protegiendo heroicamente a la humanidad o si está peligrosamente fuera de su profundidad.
Impacto en OpenAI, el ecosistema y los usuarios
- Muchos esperan daños reputacionales, fuga de talento y pérdida de confianza de los desarrolladores, especialmente en torno a la recién lanzada plataforma GPT.
- Otros argumentan que el desarrollo de modelos está impulsado por el personal de investigación, no por el CEO, y que el enfoque de misión a largo plazo puede ayudar a OpenAI incluso si la comercialización se desacelera.
- Algunos esperan más investigación abierta; otros prevén restricciones más estrictas y una gobernanza más “doomer / pro-censura”.