Proyectos OSS que prohíben contribuciones generadas por IA

Los mantenedores de código abierto están añadiendo cada vez más políticas que rechazan pull requests generados con grandes modelos de lenguaje, citando inundaciones de contribuciones de “slop” de baja calidad, agotamiento de los revisores y dificultad para preservar el diseño y la dirección del proyecto. Los críticos sostienen que esto es inaplicable, excluyente y arriesga alejar tanto a contribuyentes genuinos como a posibles mejoras de seguridad, especialmente cuando atacantes y otros proyectos recurren a la IA para el desarrollo rápido y la detección de fallos. Muchos participantes distinguen entre prohibir código escrito externamente por IA y usar IA de forma privada para revisiones, escaneos de seguridad o cambios escritos por mantenedores, reflejando un intento aún no resuelto de adaptar las normas de contribución a la adopción generalizada de herramientas de IA.

Motivaciones para las prohibiciones de contribuciones de IA

  • Los mantenedores informan que se ven inundados por PRs de baja calidad, generados por IA, y por ofertas espammy (“agentes de IA” que generan sitios, sugerencias, etc.).
  • Revisar ahora requiere mucho más esfuerzo: los PRs escritos por IA pueden parecer pulidos, pasar las pruebas y aun así estar sutilmente equivocados o desalineados con el diseño del proyecto.
  • Las señales tradicionales del esfuerzo y la comprensión del contribuyente han sido “atacadas por sybil” por los LLM: el trabajo basura y el verdaderamente reflexivo se ven similares a primera vista.
  • El gran esfuerzo de mentoría para nuevos contribuyentes parece desperdiciado cuando el “autor” real es un LLM y no un humano aprendiendo.

Beneficios percibidos de las prohibiciones

  • Actúa como una especie de “prueba de trabajo”: si los mantenedores van a invertir tiempo serio en revisar, quieren evidencia de que el contribuyente realmente pensó en ello.
  • Reduce el agotamiento y preserva la dirección y coherencia del proyecto, especialmente en equipos pequeños de voluntarios.
  • Algunos ven las prohibiciones como una señal positiva de calidad: los proyectos que no permiten PRs de IA pueden ser más seguros para depender de ellos o estudiarlos.

Críticas a las prohibiciones

  • Riesgan alejar a contribuyentes sinceros y reducir las comunidades, especialmente en proyectos con poco financiamiento (p. ej., Servo, Redox OS).
  • Las prohibiciones son poco precisas: bloquean tanto contribuciones asistidas por IA de baja calidad como otras potencialmente excelentes.
  • Algunos consideran las políticas de “solo escrito a mano” como luditas, poco serias o incluso negligentes para software crítico de seguridad.
  • Para algunos, su aplicación es imposible y probablemente empujará a la gente a mentir sobre el uso de IA.

Enfoques matizados / condicionales

  • Varios proyectos distinguen entre:
    • PRs generados externamente por IA (a menudo prohibidos o “restringidos”).
    • Uso interno de IA por mantenedores de confianza (a menudo permitido o común).
  • Mejores prácticas sugeridas:
    • Usar IA para revisión, detección de fallos, ayuda de diseño, no como autor principal del código.
    • Exigir primero issues, limitar el alcance de los PRs o restringir quién puede enviar código asistido por IA.

Seguridad, ética y efectos en el ecosistema

  • Algunos argumentan que no usar IA para la búsqueda automatizada de fallos y el escaneo de vulnerabilidades dejará a los proyectos expuestos, especialmente a medida que los atacantes usen IA a escala.
  • Otros se preocupan por el entrenamiento poco ético sobre código copyleft/propietario y por la dependencia de herramientas propietarias de “caja negra”.
  • Las predicciones van desde:
    • Más forks que adopten la IA y avancen más rápido.
    • Hasta un futuro en el que los mantenedores ejecuten principalmente la IA ellos mismos, y las “contribuciones” externas se conviertan en issues, prompts o financiación en lugar de código.