Inteligência Artificial 7 min read 50m ago

Projetos open source banem uso de IA

Uma revisão de 120 projetos open source identificou que 37 deles adotaram banimento total de contribuições geradas por inteligência artificial.
Greg Kroah-Hartman, desenvolvedor sênior do kernel Linux, afirmou que ao menos um terço dos resultados produzidos pelos melhores modelos de IA é incorreto ou prejudicial.
A distribuição Debian está em votação interna sobre proibir completamente o uso de IA em código, documentação, traduções e relatórios de bugs.

Uma crescente divisão entre o entusiasmo em torno da inteligência artificial e a realidade do desenvolvimento de software está se manifestando de forma concreta nos bastidores do ecossistema open source. Enquanto o mercado financeiro aposta trilhões na premissa de que os modelos de linguagem de grande porte (LLMs) vão transformar a produtividade humana, mantenedores de alguns dos projetos mais influentes do mundo estão chegando à conclusão oposta — e formalizando isso em política.

A pesquisa que expõe o racha

Uma revisão das políticas de inteligência artificial em 120 projetos open source conduzida por Rakshit Yadav revelou que 37 deles optaram pelo banimento total de contribuições geradas por IA. Projetos como GCC, QEMU, SDL, Gentoo, Zig e Ghostty adotaram regras que rejeitam qualquer contribuição assistida por LLM. Plataformas de desenvolvimento como Codeberg e Sourcehut, bem como a loja de aplicativos Flathub, estenderam a proibição a código, documentação, relatórios de bugs e comentários de revisão — essencialmente qualquer conteúdo destinado à leitura humana.

O kernel Linux adota uma posição intermediária: contribuições assistidas por IA são aceitas, mas o modelo utilizado deve ser declarado explicitamente por razões de transparência. Os projetos que permitem o uso de IA em geral exigem que um ser humano revise e filtre tudo o que o modelo produz antes que outro desenvolvedor seja exposto ao resultado — uma tentativa de conter o que os críticos chamam de AI slop, ou "lixo de IA".

Ad Unit · 728×90 / Responsive

Debian na linha de frente

O debate ganhou um novo epicentro: a distribuição Linux Debian está conduzindo uma votação interna entre seus desenvolvedores sobre se a IA deve ser permitida ou banida nas contribuições ao projeto. Uma das propostas em disputa prevê proibição total — código, documentação, traduções e relatórios de bugs gerados com auxílio de LLMs seriam todos vetados. A iniciativa surpreende por vir de dentro de uma comunidade técnica de alto nível, que em tese teria mais condições do que qualquer outra de avaliar friamente os benefícios e limitações da tecnologia.

O paradoxo não passa despercebido: os próprios datacenters que sustentam a infraestrutura de IA rodam em Debian e em outros sistemas baseados em Linux. Os LLMs foram treinados com o código aberto que essas comunidades produziram ao longo de décadas. E ainda assim são os mantenedores desse mesmo código que mais resistem ao uso das ferramentas que dele se alimentaram.

Por que os especialistas desconfiam dos LLMs

A explicação central aponta para a assimetria de informação. Desenvolvedores menos experientes não possuem o repertório técnico para identificar quando um LLM produz algo correto e quando está gerando código defeituoso com aparência de qualidade. O resultado prático, segundo a análise, é uma avalanche de revisões desperdiçadas: sêniores sobrecarregados examinando contribuições que são tecnicamente inadequadas, enquanto a IA torna cada vez mais fácil — e cada vez mais rápido — produzi-las em volume.

O problema é agravado pelo que pesquisadores descrevem como antropomorfismo: a tendência humana de atribuir inteligência e intenção a máquinas que simplesmente repetem padrões estatísticos. A fluência e a confiança aparente dos LLMs tornam seus erros difíceis de detectar para quem não domina o tema.

O que os benchmarks não dizem

Os índices de desempenho dos modelos de IA melhoram continuamente — isso é fato. No entanto, os melhores modelos disponíveis ainda acertam apenas cerca de 50% das questões do Humanity's Last Exam. No SWE-bench, referência para tarefas de engenharia de software, o modelo líder resolve pouco menos de 77% dos problemas — o que significa que mais de um quinto das tentativas resulta em falha. Greg Kroah-Hartman, figura de proa no desenvolvimento do kernel Linux, escreveu na lista de discussão oficial dos desenvolvedores que "mesmo com as melhores ferramentas da geração atual e da próxima, ao menos um terço dos resultados gerados é simplesmente errado ou prejudicial".

Em aplicações criativas, uma taxa de erro de um terço pode ser aceitável. Em engenharia de software, onde a correção é condição não negociável para o funcionamento de sistemas críticos, esse patamar é considerado inaceitável por grande parte da comunidade técnica.

Uma ferramenta, não uma revolução iminente

A conclusão que emerge desse debate não é que LLMs sejam inúteis, mas que a narrativa de substituição acelerada do trabalho humano está sendo sustentada mais por incentivos financeiros do que por evidências técnicas. A cultura de engenharia e os processos humanos por trás do desenvolvimento de software seguem sendo determinantes para a qualidade do resultado final — e é precisamente esse argumento que leva comunidades open source a colocar em votação medidas que, há dois anos, pareceriam improváveis. O próximo passo a observar será como os projetos que já formalizaram suas políticas vão efetivamente aplicá-las e julgar as violações.

Temas

Engenharia de SoftwareInteligência ArtificialSoftware de Código Aberto

Pessoas

Greg Kroah-HartmanRakshit Yadav

Organizações

DebianFlathubLinux

Ad Unit · 300×250 / Responsive