Aceptar «cosas malas» a cambio de los beneficios de la IA, dice Sam Altman
Las afirmaciones del director ejecutivo de OpenAI, Sam Altman, de que la sociedad debería aceptar “cosas malas” a cambio de los beneficios de la IA provocan un escepticismo intenso, y muchos cuestionan quién decide esos compromisos y quién asume los riesgos frente a las recompensas. Los comentaristas comparan las externalidades de la IA con las de los productos químicos, la tecnología de vigilancia y las redes sociales, y sostienen que la regulación, la rendición de cuentas corporativa y las redes de seguridad social son necesarias en lugar de una aceptación general del daño. Debajo del debate subyacen preocupaciones sobre la concentración del poder, la erosión de la justicia y la confianza, y si los beneficios supuestamente aportados por la IA superan de verdad sus costos sociales y ambientales.
Compromisos y “aceptar cosas malas”
- Muchos objetan la idea de que la sociedad deba “aceptar cosas malas” por los beneficios de la IA, argumentando que los beneficios nunca excusan el daño ni el comportamiento antisocial.
- Otros dicen que los compromisos son inevitables para cualquier tecnología, pero debaten qué significa “aceptar”: tolerar que ocurran daños frente a condonar socialmente abusos específicos.
- Algunos ven el argumento de Altman como “el fin justifica los medios”, con los costos asumidos por el público y las ganancias privatizadas.
Poder, desigualdad y quién decide
- Preocupa mucho que los beneficios y daños de la IA estén distribuidos de forma desigual: ventajas para los ricos y la élite tecnológica, perjuicios para trabajadores y grupos marginados.
- Tema recurrente: los ricos y poderosos, no “la sociedad”, deciden en la práctica qué compromisos se asumen.
- La riqueza extrema se describe como un motor de deseo de poder, no solo de dinero.
Regulación, salvaguardas y responsabilidad
- Varios sostienen que la regulación debería restringir las “cosas malas”, igual que con los productos químicos, las finanzas y otras industrias de alto riesgo.
- Crítica de que las empresas de IA quieren reglas estrictas cuando eso ralentiza a competidores, pero se oponen a salvaguardas de terceros o a la responsabilidad legal cuando sus modelos causan daño (por ejemplo, ayudando a cometer delitos).
- Entre las sugerencias figuran “penas de muerte” corporativas, prohibir que ejecutivos negligentes lideren empresas y asignar responsabilidad legal por salidas dañinas de los modelos.
Violencia, justicia y estabilidad social
- El hilo debate la violencia política: algunos condenan cualquier ataque contra individuos, advirtiendo que conduce a estados fallidos.
- Otros argumentan que la injusticia sistémica y las instituciones que no responden empujan naturalmente a los oprimidos hacia la violencia, señalando que ya existen la violencia estatal y política.
- Hay desacuerdo sobre si los sistemas de justicia son solo lentos o están fundamentalmente “atascados” y carecen de legitimidad.
Impactos locales, ambientales y de vigilancia
- Hay preocupación por los centros de datos (ruido, ubicación, consumo de energía y agua), pero algunos consideran esto secundario frente a riesgos más amplios: disrupción laboral, concentración del poder político y uso indebido en bio/terrorismo.
- Temor de que la vigilancia habilitada por IA reduzca drásticamente la barrera para un monitoreo intrusivo, incluso si la tecnología de vigilancia precede a los LLM modernos.
Beneficios y capacidades de la IA
- Los escépticos cuestionan si los beneficios reales de la IA justifican los costos sociales y culturales, descartando muchas salidas como “slop” de baja calidad.
- Otros citan ganancias sustanciales, incluidas afirmaciones de que los modelos punteros son transformadores para áreas como la investigación matemática.
Alternativas y redes de seguridad social
- Si la disrupción a gran escala es “inevitable”, algunos argumentan que la respuesta obvia es construir redes de seguridad social robustas; la aparente falta de apoyo se toma como evidencia de motivos desalineados.