Miles de autores de IA sobre el futuro de la IA
Las previsiones de investigadores de IA sobre cuándo podrían llegar la IA “a nivel humano” y la superinteligencia, y cuán arriesgada podría ser, van desde el optimismo a corto plazo hasta un profundo escepticismo, y algunos otorgan probabilidades no triviales a la extinción humana mientras otros argumentan que los modelos y el razonamiento actuales son demasiado débiles para tal confianza. Los participantes debaten si el riesgo de la IA debería tratarse como el cambio climático, cómo definir y medir la “AGI” y si la inteligencia encarnada o las simulaciones a escala cerebral son hitos necesarios. Varios comentarios también cuestionan la metodología y los sesgos de la encuesta, subrayando que la experiencia en construir IA no se traduce automáticamente en una capacidad fiable para prever a largo plazo sus impactos sociales y existenciales.
Comparación con el riesgo climático y los modelos científicos
- Algunos ven un paralelismo entre las preocupaciones por la extinción causada por la IA y el consenso sobre el cambio climático; otros sostienen que los modelos climáticos están cuantitativamente fundamentados y ampliamente validados, mientras que los argumentos sobre el riesgo de la IA son en gran medida cualitativos y especulativos.
- Los comentaristas señalan que el cambio climático tiene una física clara y modelos detallados, mientras que los plazos de la IA y el riesgo existencial dependen de modelos débiles o no probados y de razonamientos filosóficos.
- Una visión: la aceptación general del riesgo existencial de la IA requerirá modelos estadísticos con respaldo empírico, posiblemente demasiado tarde para ser útiles.
Escepticismo sobre la encuesta y la opinión de expertos
- Varios sostienen que la encuesta mide principalmente entusiasmo y creencias previas, no previsiones fiables.
- Preocupaciones: baja tasa de respuesta, sesgo hacia encuestados junior o incentivados, falta de experiencia en trabajos concretos (por ejemplo, cirugía, traducción, cableado) y definiciones de tareas demasiado groseras.
- Otros señalan que la encuesta intentó estratificar por número de citas y afiliación, pero los críticos desestiman las citas y las afiliaciones como indicadores débiles de experiencia o antigüedad.
Plazos, capacidades y encarnación
- Algunos creen que una probabilidad del 50% de que “las máquinas superen a los humanos en todas las tareas” para ~2047 es conservadora dada la rápida evolución reciente; otros sospechan que los investigadores están sobreestimando la cercanía debido a efectos tipo Dunning-Kruger.
- Debate sobre si la AGI requiere un cuerpo o una inteligencia encarnada unificada; algunos dicen que la IA y la robótica deben converger, otros ven la simulación cerebral o los modelos abstractos como la clave.
- Estimaciones computacionales aproximadas para una simulación a escala cerebral (neuronas, sinapsis, canales iónicos) sugieren que el hardware a nivel de cerebro humano podría llegar alrededor de finales de los 2040s–2050s, pero los comentaristas destacan grandes incógnitas en neurociencia, química y ancho de banda.
Definiciones: AGI vs. ASI y automatización de tareas
- Definiciones en competencia:
- Muy fuerte: un sistema único que puede hacer todo lo que cualquier humano haya hecho o vaya a hacer (a menudo etiquetado más como “superinteligencia”).
- Moderada: rendimiento de nivel humano en la mayoría de los campos, con autoaprendizaje, sentido común robusto y memoria a largo plazo.
- Algunos sostienen que los sistemas actuales ya superan a los humanos en dominios estrechos, pero quedan muy lejos de ser “trabajadores remotos” sin supervisión o de superar largas pruebas de Turing adversariales.
Mecanismos de extinción y resultados sociales
- Las vías especuladas de extinción impulsadas por la IA incluyen devastación ambiental por extracción descontrolada de recursos, pandemias diseñadas y manipulación omnipresente de los humanos mediante agentes autónomos.
- Otros imaginan una extinción “suave” mediante una integración gradual: los humanos se vuelven cada vez más aumentados por IA hasta que los humanos no modificados desaparecen de hecho.
- Algunos ven los mejores escenarios futuros (posescasez, todas las necesidades cubiertas) como utópicos y otros como distópicos por la posible pérdida de propósito y significado.