La propuesta de Anthropic de un proyecto de ley de seguridad de la IA solo entra en vigor si hay 50 muertes o $1B en daños
El proyecto de ley de seguridad de la IA propuesto por Anthropic en EE. UU. solo activaría una supervisión más estricta si se juzga que un modelo puede causar al menos 50 muertes o $1B en daños, lo que ha provocado críticas por implicar que la vida humana se valora en torno a $20M y por dejar sin abordar daños de menor escala. Los comentaristas argumentan que los umbrales se alcanzan fácilmente con ciberataques habilitados por IA, pero son demasiado altos para proteger a individuos, consumidores y pequeñas empresas, y ven el marco inclinado a proteger a los grandes laboratorios “frontier” mientras restringe los modelos de código abierto. Otros responden que alguna forma de auditoría de riesgo previa al lanzamiento es necesaria, pero temen que este enfoque invite a la captura regulatoria y concentre el poder sobre el despliegue de la IA en unas pocas empresas bien capitalizadas y agencias gubernamentales.
Umbrales: 50 muertes / $1B en daños
- Muchos ven los umbrales como arbitrarios y éticamente preocupantes, ya que implican que hasta 49 muertes o daños inferiores a $1B son “aceptables”.
- Algunos argumentan que $1B en realidad es un umbral bajo, especialmente para ciberataques asistidos por IA o grandes empresas; otros dicen que es lo bastante alto como para excluir daños a entidades pequeñas.
- Surgen dudas sobre si esto se aplica por incidente o de forma acumulativa, y durante qué periodo; se describe la mecánica de la propuesta como poco clara o “absurda”.
Valor implícito de la vida humana
- Quienes comentan señalan que el proyecto de ley valora implícitamente una vida en unos ~$20M.
- Algunos lo comparan con la compensación legal del mundo real, sugiriendo que no es inusualmente alta; otros se burlan de la idea de una “cantidad mínima” de 50 vidas.
Captura regulatoria e impacto en los modelos abiertos
- Hay una fuerte preocupación de que el proyecto de ley consolide principalmente a los grandes laboratorios y a las API cerradas al:
- Exigir revisión y seguros que solo los grandes actores pueden costear.
- Hacer que la “IA Certificada Segura” sea prácticamente inaccesible para proyectos pequeños/abiertos.
- Varios dicen que esto es un intento deliberado de suprimir los modelos de pesos abiertos bajo el lema de la “seguridad”.
- Otros responden que el proyecto al menos está dirigido a los “frontier labs”, no a los pequeños, aunque los opositores lo leen como una prohibición de facto de los modelos abiertos potentes.
Responsabilidad, ley y aplicación
- Debate sobre si hacen falta nuevas leyes frente a la aplicación de los marcos existentes de responsabilidad civil, penal y RICO.
- Algunos dicen que las empresas deberían ser responsables como cualquier proveedor de software, especialmente cuando despliegan sistemas de peligro conocido.
- Hay una extensa discusión sobre Mens Rea: negligencia frente a intención, conducta de riesgo repetida y si los ejecutivos o ingenieros concretos deberían enfrentarse a cargos.
Comparación con otras tecnologías
- Analogías con coches, aviones, armas, cifrado y herramientas de hacking:
- Una postura: regular el mal uso y el diseño defectuoso, no las capacidades en sí.
- Otra: si la IA se enmarca como más peligrosa que las armas, una regulación ex ante significativa es inevitable.
Eficacia y “el genio salió de la botella”
- Los escépticos sostienen que los modelos abiertos potentes y los laboratorios extranjeros hacen imposible un control estricto; como mucho, la propuesta compra unos pocos meses de retraso.
- Otros ven útil cualquier desaceleración del despliegue de frontera, porque da tiempo adicional para desarrollar más salvaguardas.