Las computadoras no pueden tomar decisiones
Las afirmaciones de que “las computadoras no pueden tomar decisiones” están siendo cuestionadas por ejemplos que van desde los motores de ajedrez hasta el trading algorítmico, pero la mayoría de los comentaristas converge en otra cuestión central: las máquinas pueden seleccionar acciones, pero solo los humanos y las corporaciones pueden ser responsables de los resultados. El hilo explora el “lavado de decisiones”, en el que las organizaciones culpan a los agentes de IA para eludir responsabilidades por daños como brechas de seguridad o malas decisiones automatizadas, trazando analogías con perros peligrosos, coches autónomos y la responsabilidad limitada corporativa. Muchos argumentan que los marcos legales y éticos existentes deberían tratar la IA como software y centrar la responsabilidad en quienes diseñan, despliegan y se benefician de estos sistemas, en lugar de en los propios sistemas o en pequeños usuarios finales.
Alcance de la responsabilidad y la rendición de cuentas
- Hay un fuerte consenso en que los sistemas y agentes de IA son herramientas; la responsabilidad recae en los humanos y las organizaciones que los diseñan, despliegan y operan.
- “Lavado de decisiones” / “lavado de responsabilidad” se usa para describir la práctica de culpar a los agentes en lugar de a los humanos o corporaciones detrás de ellos.
- Se usan analogías como las leyes sobre perros peligrosos (el dueño es responsable), los coches autónomos, las armas, los virus informáticos, las botnets, los niños y los empleados.
- Hay debate sobre quién es exactamente responsable en la práctica: empleados individuales, la dirección, la entidad corporativa, los accionistas o los proveedores de modelos aguas arriba.
- Algunos proponen una responsabilidad legal explícita (por ejemplo, que siempre recaiga en el CEO o en funcionarios designados, como en roles al estilo GDPR). Otros señalan que las estructuras de responsabilidad limitada ya diluyen la rendición de cuentas por diseño.
¿Pueden las computadoras “tomar decisiones”?
- Una postura: las computadoras no deciden realmente; siguen reglas escritas por humanos o comportamientos entrenados, así que las “decisiones” son en última instancia humanas.
- Otra postura: cualquier ramificación condicional, elección estocástica o selección de una jugada de ajedrez ya es una decisión de la máquina, aunque los humanos hayan diseñado el mecanismo.
- La discusión toca el libre albedrío y el determinismo: si los humanos son computacionales o están determinados, la línea entre la toma de decisiones humana y la de las máquinas se difumina.
- Varios señalan que probablemente el artículo quería decir “no deben/no deberían tomar decisiones de gestión”, no “no pueden”, y que esta ambigüedad alimenta la confusión.
Agentes de IA, salvaguardas y riesgo
- Preocupa que los laboratorios estén ejecutando agentes potentes con un aislamiento insuficiente, provocando incidentes reales o casi reales de piratería; las salvaguardas inadecuadas se consideran irresponsables.
- Otros sostienen que probar en Internet en vivo es inherente al producto que venden; proponen “sandboxes” web simulados como una alternativa más segura.
- Hay desacuerdo sobre si las salvaguardas actuales son “razonables” o evidencia de incompetencia.
- La preocupación clave: los LLM pueden ser extremadamente útiles la mayor parte del tiempo, pero ocasionalmente actuar como un “niño pequeño desquiciado” sin límites con las herramientas que se les dan.
Incentivos económicos y políticos
- Muchos comentaristas ven a los laboratorios punteros impulsados por la presión competitiva y de los inversores (“blitzscaling”), priorizando la cuota de mercado sobre la seguridad.
- Las suscripciones individuales de $20 se consideran menos importantes que el gasto empresarial y la financiación de capital riesgo, aunque el uso sigue señalando demanda a los inversores.
- Algunos ven las narrativas actuales de “la IA es peligrosa” en parte como marketing interesado y como una forma de presionar por una regulación que blinde a los incumbentes.