La IA nos está obligando a saldar 40 años de deuda técnica

El análisis de código impulsado por IA está sacando rápidamente a la luz vulnerabilidades de décadas de antigüedad en pilas de software centrales como PHP y HTTP, obligando a las organizaciones a afrontar una “deuda técnica” largamente ignorada en seguridad y diseño. Los comentaristas discuten si esto conducirá a un cambio duradero hacia arquitecturas más simples, lenguajes con seguridad de memoria, verificación formal y una regulación más fuerte, o si simplemente desencadenará un ciclo interminable de parches generados por IA y nuevos errores. Muchos ven la causa raíz no en las herramientas o los lenguajes por sí solos, sino en incentivos que durante mucho tiempo han priorizado la velocidad, la compatibilidad y las funciones por encima de la ingeniería rigurosa y el mantenimiento.

Descubrimiento de vulnerabilidades impulsado por IA y “40 años de deuda”

  • Muchos ven el análisis de código impulsado por IA como algo que por fin está sacando a la luz errores y 0-days largamente ignorados, incluso en pilas centrales como PHP, HTTP/2, Brotli y bibliotecas populares.
  • Algunos enmarcan esto como “saldar” décadas de deuda técnica/de seguridad; otros sostienen que en realidad está exponiendo una negligencia de larga data y la falta de inversión en infraestructura y software libre.
  • Preocupa que la divulgación coordinada no encaje con un mundo en el que cualquiera puede apuntar un LLM a una descripción aproximada de un bug y obtener rápidamente un exploit.

KISS, complejidad y comportamiento de codificación de los LLM

  • Varios comentaristas se quejan de que los LLM tienden a sobrediseñar y a añadir código defensivo “empresarial”, haciendo que los sistemas sean voluminosos y frágiles.
  • Otros argumentan que las comprobaciones defensivas y documentar supuestos son necesarios, ya que las validaciones pueden moverse y las condiciones cambiar.
  • Se elogia KISS por reducir la superficie de ataque; los ejemplos incluyen usar archivos estáticos en lugar de pilas complejas, o arquitecturas de despliegue más simples.

¿Reduce o crea deuda técnica la IA?

  • Algunos informan que la IA ayuda a eliminar grandes cantidades de código heredado, refactorizar y corregir muchos más errores en meses de los que antes se corregían en años.
  • Otros dicen que la IA está aumentando drásticamente el “slop”: funciones codificadas por vibra, PR enormes y arreglos temporales que nadie entiende en profundidad.
  • Debate sobre si la duplicación y una menor abstracción podrían ser aceptables en un mundo mantenido por IA frente al diseño tradicional DRY centrado en humanos.

Verificación formal, código demostrable y límites

  • Una línea de pensamiento: los atacantes impulsados por IA acabarán encontrando todos los errores explotables, así que los defensores deben avanzar hacia sistemas demostrables y formalmente verificados, con IA ayudando a los demostradores de teoremas.
  • Réplica: las pruebas solo muestran conformidad con una especificación, las especificaciones pueden ser incorrectas y no tenemos suficientes expertos; la mayor parte del software es demasiado compleja para verificarla por completo.
  • Comparaciones con la ingeniería física: verificamos frente a modos de fallo conocidos, aceptamos una garantía parcial y confiamos en márgenes de seguridad, no en la perfección.

Seguridad de memoria, lenguajes y errores de implementación

  • Fuerte apoyo a abandonar C/C++ en favor de lenguajes con seguridad de memoria (Rust, etc.), reconociendo al mismo tiempo que esos ecosistemas y compiladores aún pueden tener errores críticos.
  • Algunos ven la persistencia de C/C++ en pilas críticas (como la implementación de PHP) como emblemática de la “industria de payasos” y de las limitaciones de compatibilidad hacia atrás.

Software libre, auditorías y certificaciones

  • Se retoma la Ley de Linus: el software libre no obtuvo suficientes “ojos” humanos; la IA quizá por fin haga real esa premisa al escanear de forma barata enormes bases de código.
  • Escepticismo sobre que las certificaciones de seguridad (p. ej., ISO 27001) sean manipuladas y estén impulsadas por la apariencia de cumplimiento más que por la seguridad real.
  • Preocupación de que tanto atacantes como defensores ahora tengan herramientas de IA similares; el resultado depende de los incentivos, la gobernanza y de quién paga por el endurecimiento continuo.