Uso de LLM en Debian: tres propuestas
Los desarrolladores de Debian están valorando varias propuestas en competencia sobre si los contribuyentes pueden usar y cómo pueden usar modelos de lenguaje grandes (LLM) al trabajar en la distribución, desde una prohibición total hasta una aceptación condicionada con requisitos de divulgación y responsabilidad. Quienes apoyan límites estrictos citan el estado poco claro de los derechos de autor, la mayor carga de revisión, preocupaciones ambientales y éticas, y el temor a “slop” de IA de baja calidad, mientras que otros argumentan que los LLM ya son herramientas esenciales para la productividad, la auditoría de seguridad y las personas no angloparlantes. Gran parte del debate gira en torno a la aplicabilidad, a cómo distinguir “asistencia” de contenido generado, y a si rechazar los LLM protegerá la calidad de Debian o, por el contrario, pondrá en riesgo su relevancia a largo plazo.
Resumen de las propuestas de Debian sobre LLM
- Múltiples propuestas en competencia:
- A: prohibición total de contribuciones escritas con “uso o asistencia” de LLM.
- B: permitir contribuciones asistidas por IA con requisitos estrictos de verificación de licencias y responsabilidad del mantenedor.
- C: desaconsejar formalmente el uso de LLM (una fuerte norma social, sin prohibición dura).
- D: aceptación más limitada de la IA para trabajo específico de Debian.
- Varios comentaristas subrayan que esto es una discusión, no una decisión final, y que pueden aparecer o retirarse más propuestas.
Aplicación y viabilidad práctica
- Muchos cuestionan cómo podría hacerse cumplir cualquier prohibición o restricción; detectar el uso de LLM se considera, en la práctica, imposible.
- Algunos sostienen que el punto es una “declaración de intención” basada en el cumplimiento de buena fe; otros creen que eso solo hace coherente una prohibición estricta (A).
- Preocupa que las herramientas omnipresentes en editores/IDEs dificulten el cumplimiento incluso a contribuyentes bien intencionados.
Calidad del código, seguridad y herramientas
- Postura a favor de los LLM: los LLM destacan analizando código, encontrando vulnerabilidades y acelerando trabajo rutinario; prohibirlos podría perjudicar la seguridad y la velocidad.
- Postura contraria: el código generado por LLM suele ser “slop” de baja calidad, aumenta la carga de revisión y puede ocultar errores sutiles; los proyectos deberían centrarse en una revisión humana sólida y en justificar los cambios.
- Debate sobre usar LLM solo para análisis frente a generación; la redacción de la Propuesta A podría prohibir involuntariamente incluso la detección de vulnerabilidades asistida por LLM.
Traducciones y contribuyentes no angloparlantes
- Preocupación de que una prohibición estricta perjudique a quienes no hablan inglés y dependen de LLM para leer/escribir material técnico.
- Réplica: usar traducción automática para consumir documentación está bien; el problema es publicar documentación traducida por máquina como contenido autorizado de Debian.
- Algunos señalan que la propuesta C permite explícitamente escribir en lenguas nativas con lectores usando sus propias herramientas de traducción.
Preocupaciones legales y de licencias
- Gran énfasis en el estado poco claro de los derechos de autor del resultado de los LLM y en la necesidad de Debian de una “claridad absoluta”.
- Escepticismo sobre que los contribuyentes puedan verificar de forma realista que la salida de IA no contiene código con copyright de terceros.
- Comparación con pedir a los humanos que garanticen que no copiarán accidentalmente ni introducirán errores de seguridad de memoria: deseable, pero no demostrable.
Impactos éticos, ambientales y sociales
- Entre los argumentos contra los LLM figuran: extracción de datos sin consentimiento, coste ambiental de los centros de datos y reducción de la interacción humana.
- Otros consideran que estas afirmaciones no están suficientemente fundamentadas o exceden el alcance de Debian, o sugieren dirigir las acciones contra los proveedores de IA mediante demandas o regulación.
Identidad del proyecto, control de acceso y futuro
- Algunos ven las prohibiciones como conservadoras, alineadas con la cultura de Debian centrada en la estabilidad; otros las ven como un control arrogante contra una herramienta útil.
- Debate sobre si rechazar contribuciones generadas por LLM hará que Debian sea irrelevante o si, por el contrario, lo preservará como una base de alta confianza y cuidadosamente curada.
- Varios prevén que cualquier postura de “sin LLM” se volverá insostenible a medida que mejore el desarrollo asistido por IA; otros sostienen que Debian siempre puede cambiar de rumbo más adelante.