Projetos OSS proibindo contribuições geradas por IA
Mantenedores de software de código aberto estão cada vez mais adotando políticas que rejeitam pull requests geradas com modelos de linguagem grandes, citando uma enxurrada de contribuições de “slop” de baixa qualidade, burnout de revisores e dificuldade em preservar o design e a direção do projeto. Críticos argumentam que isso é inexequível, excludente e arrisca afastar tanto contribuidores genuínos quanto possíveis melhorias de segurança, especialmente à medida que atacantes e outros projetos recorrem à IA para desenvolvimento rápido e busca de bugs. Muitos participantes distinguem entre proibir código escrito externamente por IA e usar IA privadamente para revisões, varreduras de segurança ou mudanças autorais dos mantenedores, refletindo uma tentativa ainda instável de adaptar as normas de contribuição ao uso disseminado de ferramentas de IA.
Motivações para proibições de contribuições de IA
- Mantenedores relatam estar sendo inundados por PRs de “slop” geradas por IA, de baixo esforço, e ofertas spam de “agentes de IA” que geram sites, sugestões etc.
- Revisar agora exige muito mais esforço: PRs escritas por IA podem parecer polidas, passar nos testes e ainda assim estar sutilmente erradas ou desalinhadas com o design do projeto.
- Sinais tradicionais de esforço e entendimento do contribuidor foram “sofridos por ataque sybil” pelos LLMs: trabalho lixo e trabalho genuinamente cuidadoso parecem semelhantes à primeira vista.
- O alto esforço de mentoria para novos contribuidores parece desperdiçado quando o verdadeiro “autor” é um LLM, e não um humano aprendendo.
Benefícios percebidos das proibições
- Funciona como uma “prova de trabalho”: se os mantenedores vão investir tempo sério de revisão, eles querem evidências de que o contribuidor realmente pensou.
- Reduz o burnout e preserva a direção e a coerência do projeto, especialmente para pequenas equipes voluntárias.
- Alguns veem as proibições como um sinal positivo de qualidade: projetos que não permitem PRs de IA podem ser mais seguros para depender ou estudar.
Críticas às proibições
- Risco de afastar contribuidores sinceros e encolher comunidades, especialmente em projetos subfinanciados (por exemplo, Servo, Redox OS).
- As proibições são pouco granulares: bloqueiam tanto contribuições de baixa qualidade quanto contribuições potencialmente excelentes assistidas por IA.
- Alguns veem políticas de “apenas escrito à mão” como luddistas, pouco sérias ou até negligentes para software crítico de segurança.
- A aplicação é vista por alguns como impossível e provavelmente levará as pessoas a mentir sobre o uso de IA.
Abordagens nuançadas / condicionais
- Vários projetos distinguem entre:
- PRs geradas por IA externas (frequentemente proibidas ou “restritas”).
- Uso interno de IA por mantenedores confiáveis (frequentemente permitido ou comum).
- Boas práticas sugeridas:
- Usar IA para revisão, identificação de bugs, ajuda de design, não como autora principal do código.
- Exigir issues primeiro, limitar o escopo dos PRs ou restringir quem pode enviar código assistido por IA.
Segurança, ética e efeitos no ecossistema
- Alguns argumentam que não usar IA para busca automatizada de bugs e varredura de vulnerabilidades deixará os projetos vulneráveis, especialmente à medida que atacantes usam IA em escala.
- Outros se preocupam com treinamento antiético em código copyleft/proprietário e com a dependência de ferramentas proprietárias de “caixa-preta”.
- As previsões variam entre:
- Mais forks que adotam IA e avançam mais rápido.
- Até um futuro em que os mantenedores executam IA principalmente por conta própria, e “contribuições” externas se tornam issues, prompts ou financiamento em vez de código.