Künstliche Intelligenz 5 min read 53m ago

KI-Bann in Open-Source-Projekten wächst

Eine Analyse von 120 Open-Source-Projekten durch Rakshit Yadav zeigt, dass 37 den Einsatz von KI vollständig verboten haben, darunter GCC, QEMU, Gentoo und Ghostty.
Greg Kroah-Hartman schrieb auf der Linux-Entwicklermailingliste, dass mindestens ein Drittel der KI-generierten Ergebnisse schlicht falsch oder schädlich sei – Benchmarks wie
Die Linux-Distribution Debian führt derzeit eine Entwicklerabstimmung durch, bei der ein vollständiges KI-Verbot für Code, Dokumentation, Übersetzungen und Fehlerberichte zur Wahl

In der Open-Source-Gemeinschaft wächst der Widerstand gegen den Einsatz von KI-Werkzeugen bei Softwarebeiträgen. Eine Analyse der KI-Richtlinien von 120 Open-Source-Projekten durch Rakshit Yadav ergab, dass 37 davon den KI-Einsatz vollständig untersagen. Projekte wie GCC, QEMU, SDL, Gentoo, Zig und Ghostty lehnen KI-gestützte Beiträge grundsätzlich ab. Entwicklungsplattformen wie Codeberg und Sourcehut sowie App-Stores wie Flathub haben KI-generierte Inhalte – darunter Code, Dokumentation, Fehlerberichte und Review-Kommentare – verboten.

Debian stimmt über KI-Verbot ab

Besonders aufschlussreich ist die laufende Abstimmung bei der Linux-Distribution Debian, bei der die Entwickler darüber entscheiden, ob KI-Nutzung erlaubt oder verboten werden soll. Einer der Vorschläge auf dem Stimmzettel sieht ein vollständiges Verbot von KI für Code, Dokumentation, Übersetzungen und Fehlerberichte vor. Der Linux-Kernel wählt einen Mittelweg: KI-gestützte Beiträge sind erlaubt, das verwendete Modell muss jedoch aus Transparenzgründen angegeben werden. Bemerkenswert ist dabei, dass die KI-Rechenzentren selbst auf Debian und anderen Linux-Distributionen betrieben werden – jenen Systemen also, deren Maintainer nun über KI-Verbote abstimmen.

Fehlerquote als Kernproblem

Ein zentraler Kritikpunkt ist die hohe Fehlerquote von Sprachmodellen in der Praxis. Greg Kroah-Hartman, ein renommierter Linux-Kernelentwickler, schrieb auf der Linux-Entwicklermailingliste, dass "selbst mit den besten aktuellen und nächstgenerationellen Werkzeugen mindestens ein Drittel der erzeugten Ergebnisse schlicht falsch oder schädlich" sei. Aktuelle Benchmarks stützen diese Einschätzung: Auf dem Humanity's Last Exam erreichen die besten Modelle eine Bestehensquote von lediglich rund 50 Prozent; auf SWE-bench löst das leistungsstärkste Modell knapp unter 77 Prozent der Aufgaben – was bedeutet, dass ein erheblicher Anteil der Ergebnisse fehlerhaft bleibt. In der Softwareentwicklung, wo Korrektheit keine Option, sondern Voraussetzung ist, wiegt diese Fehlerquote schwer.

Ad Unit · 728×90 / Responsive

Informationsasymmetrie als strukturelles Problem

Ein weiteres strukturelles Problem ist die Informationsasymmetrie zwischen erfahrenen Entwicklern und Einsteigern. Je weniger jemand über ein Thema weiß, desto schwerer fällt es ihm, fehlerhafte KI-Ausgaben zu erkennen. Erfahrene Maintainer sehen sich einer wachsenden Flut von Beitragsanfragen ausgesetzt, die von unzureichend qualifizierten Nutzern mithilfe von KI erstellt wurden und erheblichen Reviewaufwand erzeugen, ohne nennenswerten Mehrwert zu liefern. Hinzu kommt, dass viele Einsteiger das Erlernen von Grundlagen zugunsten von KI-Ausgaben aufzugeben scheinen – ein Trend, den erfahrene Entwickler zunehmend registrieren und der das Mentoring-Verhältnis zwischen Senioren und Junioren belastet. Wie Unternehmenskultur die KI-Produktivitätsversprechen konterkarieren kann, ist ein eng verwandtes Phänomen, das in der Branche breit diskutiert wird.

KI als Werkzeug – nicht als Allheilmittel

Trotz der Kritik werden Sprachmodelle von den Skeptikern nicht grundsätzlich als nutzlos abgetan. Der Tenor lautet: LLMs sind nützliche Werkzeuge für bestimmte Aufgaben, doch die Behauptung, KI werde menschliche Entwickler in absehbarer Zeit in Leistungsfähigkeit oder Effizienz übertreffen, sei nicht belegt. Projekte, die KI-Nutzung weiterhin erlauben, verlangen in der Regel, dass ein Mensch alle KI-Ausgaben vor der Einreichung geprüft und gefiltert hat. Die nächste Phase wird zeigen, wie die wachsende Zahl an KI-Richtlinien in der Praxis durchgesetzt wird und welche Konsequenzen Verstöße nach sich ziehen – eine Entwicklung, die auch Debatten über IT-Sicherheitsstandards und Verantwortung in der Softwareentwicklung berührt.

Themen

Künstliche IntelligenzOpen-Source-SoftwareSoftwareentwicklung

Personen

Greg Kroah-HartmanRakshit Yadav

Organisationen

DebianFlathubLinux

Ad Unit · 300×250 / Responsive