¿Deberían los gobiernos ralentizar la IA de frontera? Jacob Coxon y Robin Hanson debaten [video]
Si los gobiernos deberían ralentizar o frenar el desarrollo de la IA de frontera divide opiniones entre quienes ven riesgos existenciales y sociales y quienes sostienen que las presiones competitivas hacen irrealista cualquier pausa significativa. Los comentaristas debaten la aplicabilidad —desde supervisar el enorme consumo energético y las cadenas de suministro de GPUs hasta acuerdos entre EE. UU. y China— junto con alternativas como la responsabilidad estricta por daños, centros de datos alimentados solo con renovables y redistribuir el cómputo lejos de unas pocas empresas dominantes. Debajo de todo ello subyace un argumento más amplio sobre el poder y la desigualdad: quién controlará sistemas supercapaces, cómo transformarán el trabajo y la política, y si las estructuras capitalistas actuales pueden gestionar esa transición.
Viabilidad de Ralentizar la IA de Frontera
- Muchos sostienen que una ralentización significativa es políticamente imposible debido a la rivalidad entre grandes potencias y a la creencia de que “quien consiga primero la IA superhumana” obtiene un poder निर्णitivo, lo que hace poco creíbles las moratorias o pausas.
- Otros dicen que la ralentización es técnicamente viable ahora porque el entrenamiento de frontera requiere enormes chips, electricidad a escala de TWh y grandes centros de datos que pueden monitorizarse y que están concentrados en unos pocos países.
- Se cuestiona la viabilidad futura: los avances algorítmicos y de eficiencia podrían dar lugar a sistemas potentes que puedan entrenarse “en un garaje”, momento en el que la aplicación de normas sería casi imposible.
- Algunos ven plausible un régimen de no proliferación de IA (especialmente entre EE. UU. y China); otros señalan resultados mixtos de la era nuclear y dudan de la verificación y el cumplimiento.
Regulación, Responsabilidad y Exceso de Alcance
- Un bando favorece una fuerte regulación o incluso la paralización total hacia una AGI más capaz, citando el riesgo existencial, los errores irreversibles y la insuficiencia de la responsabilidad ex post cuando los daños podrían ser a escala civilizatoria.
- Otros prefieren regímenes de responsabilidad: los usuarios son responsables cuando ordenan actos ilegales; los proveedores, cuando los sistemas actúan más allá de las instrucciones. Sostienen que esto encaja en gran medida con la ley existente y podría disciplinar a los laboratorios sin nueva regulación pesada.
- Se expresa preocupación de que los “reguladores de IA” puedan expandirse gradualmente a la mayor parte del software y hardware, amparados en la caída de costes y la difusión de modelos potentes.
- Entre las propuestas concretas figuran mandatos de uso exclusivo de energías renovables para centros de datos de IA, topes de cómputo/energía y seguros globales de empleo financiados por los ganadores de la IA; su viabilidad y voluntad política son ampliamente cuestionadas.
Alineación, Valores y Control
- Algunos creen que la alineación actual (filtros de seguridad, controles de acceso) demuestra que la alineación es manejable y que mejorará porque es económicamente valiosa para las organizaciones.
- Otros argumentan que “alineación” se está usando como pretexto para la captura regulatoria y la centralización por parte de los grandes laboratorios, convirtiéndolos en peajes sobre la actividad económica.
- Debate sobre si la inteligencia y la alineación están vinculadas:
- Un lado subraya la “ortogonalidad” entre objetivos e inteligencia; los sistemas más inteligentes y mal alineados suponen mayor peligro.
- Otro sugiere que los sistemas más capaces pueden reconocer mejor objetivos irracionales y que los modelos actuales parecen alinearse más con el tiempo.
- Varios señalan que los humanos y las burocracias ya son “IA desalineadas”, y que no hemos resuelto la alineación ni siquiera para nuestras propias instituciones.
Poder, Economía y Propiedad
- Fuerte preocupación por la concentración de las capacidades de IA en unas pocas empresas y estados; entre las propuestas figuran redistribuir GPUs, promover modelos locales y tratar el control individual de la IA como núcleo de la “alineación con la libertad”.
- Otros sostienen que la inferencia local es ineficiente y que los modelos en la nube dominarán, aunque se plantean objeciones de privacidad y soberanía al control centralizado.
- Surgen críticas políticas más amplias: preocupación por la desigualdad, la erosión del poder democrático cuando cae el valor del trabajo, y llamamientos al socialismo/comunismo frente a defensas del capitalismo de mercado.