Nuestra estructura

Artículo original ↗ Discusión en Hacker News ↗

La estructura corporativa inusual de OpenAI — una organización sin ánimo de lucro que controla una subsidiaria con lucro limitado en la que Microsoft posee una participación grande pero restringida — está bajo escrutinio mientras la gente cuestiona cuánto poder tiene realmente Microsoft, qué ocurre si OpenAI declara que ha alcanzado la AGI y si la estructura puede sobrevivir a presiones comerciales y legales crecientes. Los comentaristas examinan la propia definición de AGI de OpenAI como “superar a los humanos en la mayoría del trabajo económicamente valioso”, debatiendo si este encuadre económico es apropiado, qué implica para los empleos, el trabajo físico, los valores de la tierra y la creación artística, y cuán cerca podrían estar los sistemas actuales de ese umbral. También hay tensión entre los llamados a liberar modelos potentes como código abierto para beneficio de la “humanidad” y la preocupación de que eso potencie usos delictivos y abusivos que los marcos legales existentes quizá no logren contener.

Cláusula de AGI y relación con Microsoft

  • Cláusula clave: solo la junta decide cuándo se alcanza la AGI; una vez declarada, los sistemas de AGI quedan excluidos de los derechos de propiedad intelectual/comerciales de Microsoft.
  • Algunos ven esto como que Microsoft solo obtiene “restos pre-AGI”; otros piensan que Microsoft lo aceptó porque dudan de que los enfoques actuales vayan a alcanzar la AGI pronto o ven la cláusula como algo mayormente cosmético.
  • Unos pocos especulan con que el conflicto entre la junta y la dirección puede depender de cuán cerca crean que está la AGI y de lo que eso implique para los derechos de Microsoft.

Definición y alcance de la AGI

  • La AGI se define como un “sistema altamente autónomo que supera a los humanos en la mayoría del trabajo económicamente valioso”.
  • A algunos les resulta deprimente el encuadre económico; otros sostienen que es el enfoque correcto porque eso es lo que impulsa el desplazamiento laboral y la disrupción.
  • Debate sobre si esto es alcanzable sin robótica avanzada, ya que gran parte del trabajo es físico. Algunos argumentan que el software de AGI resolvería rápidamente las carencias de software en robótica.

Impacto económico, tierra y valor

  • Fuerte debate sobre si las ganancias de productividad impulsadas por la IA elevan principalmente los precios de la tierra/los bienes raíces.
  • Una parte: el valor de la tierra está limitado por el valor producido por pie cuadrado; más productividad ⇒ precios más altos de la tierra; los propietarios capturan las ganancias.
  • La otra parte: pueblos/ciudades abandonados muestran que la tierra puede perder valor; las ganancias tecnológicas a largo plazo y la guerra/desastre complican las narrativas simples de “siempre sube”.
  • Un hilo lateral aclara “real” en “real estate” como “relacionado con cosas”, no “realmente valioso”.

Estructura corporativa y apalancamiento legal

  • La matriz sin ánimo de lucro de OpenAI + subsidiaria con lucro limitado + holding complejo se llama una estructura “Rube Goldberg”, pero también se señala como un modelo conocido de sin ánimo de lucro con subsidiaria.
  • Microsoft posee el 49% de la entidad con fines de lucro y obtiene una gran parte preferente de las ganancias hasta recuperar la inversión. Algunos lo ven como algo estándar; otros, como extraño dado el estatuto de misión primero.
  • Desacuerdo sobre el poder legal de Microsoft: algunos esperan litigios agresivos; otros señalan contratos que etiquetan explícitamente la inversión como de alto riesgo “como una donación”, con la misión por encima del lucro, lo que limita el control de Microsoft.

Ventajas defensivas, competencia y posición de Microsoft

  • Algunos sostienen que la verdadera ventaja defensiva de OpenAI es la marca (ChatGPT), la base de usuarios, los acuerdos de datos, los contratos de cómputo, las integraciones y la experiencia de entrenamiento a escala de Azure.
  • Otros responden que la mayor parte de esto se construyó en un “océano azul” y podría replicarse; se citan laboratorios alternativos con financiación similar como ejemplos rezagados.
  • Preocupa que futuros modelos de AGI puedan ser retenidos de Microsoft, pero se cree que Microsoft está construyendo sus propias capacidades en paralelo.

Código abierto y riesgos de uso indebido

  • Un bando insiste en que OpenAI debería liberar todo como código abierto para que se beneficie “la humanidad”; los delitos pueden ser tratados por los sistemas legales existentes.
  • Los opositores subrayan la naturaleza de doble uso de la IA y temen que los modelos totalmente abiertos empoderen a actores maliciosos de formas que la regulación no puede prevenir eficazmente.

Especulación y reflexiones culturales

  • Diversos hilos especulativos: si los super-sistemas de codificación de AGI se mantendrían en secreto como palanca; si la junta podría declarar prematuramente la AGI para escapar de los acuerdos con Microsoft; y cómo este “drama de origen” podría moldear la visión de la humanidad que tenga una AGI.
  • Algunos usan la situación para reflexionar sobre mundos posescasez, la pérdida de sentido sin trabajo y ideas de historias donde la IA o los humanos se autosabotean para reintroducir la lucha.