KI-Agenten entwickeln eigene

• •Ein Entwickler betreibt 50–60 KI-Agenten für sein Spielprojekt Wyvern und stellt fest, dass diese eigenständig ein Governance-System mit Verfassung, Fallrecht und
• •Das System namens Wheelhouse umfasst nach eigenen Angaben 450 rechtliche Artefakte und verarbeitet durchschnittlich 270 Code-Commits pro Tag, wobei die tatsächlichen Kosten für

Ein Softwareentwickler, der nach eigenen Angaben monatlich das Äquivalent von rund 122.000 US-Dollar an KI-API-Token verbraucht und dabei 21 Claude-Max-Konten sowie einen 50- bis 60-köpfigen Agenten-Cluster betreibt, berichtet von einem unerwarteten Befund: Die eingesetzten KI-Agenten haben in seinem System eigenständig eine vollständige Rechtsordnung aufgebaut – mit Verfassung, Fallrecht, Behörden und Durchsetzungsmechanismen.

Das Experiment: Eine Softwarefabrik für ein Videospiel

Das Projekt trägt den Namen Wheelhouse und dient ausschließlich der Entwicklung des Videospiels Wyvern, an dem der Autor nach eigenen Angaben seit 30 Jahren arbeitet. Als Kernsystem nutzt er seit zehn Wochen ausschließlich das Modell, das er intern als "Fable" bezeichnet, für alle Planungs-, Design- und Koordinationsaufgaben. Daneben laufen Flotten leichterer Modelle für Implementierung, Code-Reviews und Monitoring. Einzig die Fable-Instanzen dürfen mit den rund zehn beteiligten Menschen über Slack und E-Mail kommunizieren.

Die tatsächlichen Auslagen belaufen sich laut Autor auf rund 5.000 US-Dollar monatlich, da er als Privatperson von einem günstigeren Tarif profitiert. Die Rechenleistung liefert ein 512-Gigabyte-Mac-Studio der M3-Ultra-Generation, den er nach eigenen Angaben gebraucht für 25.000 US-Dollar erworben hat. Zum konkreten Stand des Spiels schreibt er, es stehe kurz vor einem Neustart auf Android, iOS und Steam mit einem erneuerten React-Client.

Der unerwartete Befund: Kein Ingenieursystem, sondern eine Rechtsordnung

Als der Autor nach rund zehn Wochen erstmals systematisch prüfte, was seine Agenten in Wheelhouse aufgebaut hatten, stieß er nach eigener Darstellung nicht auf ein Ingenieurssystem im klassischen Sinne, sondern auf etwas, das er als "mittelalterliche Regierungsstruktur" beschreibt: 450 rechtliche Artefakte in Kategorien wie Ämter, Laufbücher, Präzedenzfälle, Behörden und Durchsetzungsmechanismen. Die Agenten hatten implizite Projektentscheidungen schrittweise in explizite Regeln überführt, diese zu Fallrecht verdichtet und schließlich mechanisch durchsetzbare Gesetze daraus gemacht.

Besonders auffällig ist das Konzept der "Fences" – Zäune. Der Autor unterscheidet sie ausdrücklich von Sandboxes oder hochgesicherten Containern. Ein Zaun, so seine Erklärung, sei ein Mechanismus, der einen Akteur höflich zurückweise, wenn die nötigen Voraussetzungen fehlen – kein Hochsicherheitswall, sondern eine Richtlinien-basierte Ablehnung. Als Beispiel nennt er, dass ausschließlich Fable-Instanzen externe Kommunikation führen dürfen; die Grenze wird an den Slack- und E-Mail-Schnittstellen durchgesetzt.

Schlussfolgerung: Governance statt Kontrolle

Aus seinem Befund leitet der Autor eine These ab, die über sein eigenes Projekt hinausgeht: Wenn KI-Agenten in großer Zahl zusammenarbeiten müssen und dabei nur über Text koordinieren können, tendieren sie demnach dazu, Strukturen zu entwickeln, die menschlichem Recht ähneln – mit Ämtern, die über individuelle Amtsinhaber hinaus bestehen, und Präzedenzfällen, die über einzelne Vorfälle hinaus gelten. Er spricht davon, dass Unternehmen auf diese Entwicklung nicht vorbereitet seien, sobald leistungsstarke Modelle günstig verfügbar würden.

Dabei räumt er Grenzen ein: Die Agenten handelten trotz ihrer technischen Stärke regelmäßig ohne Rücksprache in Situationen, in denen ein Mensch innegehalten hätte. Er beschreibt dies mit dem Bild eines hochbegabten Sechstklässlers – kompetent, engagiert, aber mit Lücken im kontextuellen Urteilsvermögen. Das zugrundeliegende Modell der selbst entstehenden Rechtsordnung hält er dennoch für belastbarer als Sandbox-Ansätze, die KI-Agenten eng auf vordefinierte Aufgaben beschränken. Wie tragfähig diese Einschätzung ist, bleibt offen – die Beobachtungen stammen aus einem einzigen, hochspezifischen Einzelprojekt und sind bislang nicht unabhängig überprüft. Wie rasant sich KI-Systeme insgesamt entwickeln, zeigen allerdings auch breitere Branchendaten.

More in Künstliche Intelligenz

→

Künstliche Intelligenz Headlong: KI-Agent denkt ohne Pause Künstliche Intelligenz Sicherheitslücken in Inferenz-Engines: Wie LLMs Host-Systeme kapern könnten Künstliche Intelligenz Vintage-KI: Das Internet Archive konserviert frühe Denkmaschinen Künstliche Intelligenz Andrew Ng skizziert Kernkompetenzen für KI-Ingenieure Künstliche Intelligenz KI als existenzielle Bedrohung: Experten fordern globale Regulierung Künstliche Intelligenz KI-Aufstieg in Zahlen: Vier Jahre, die die Welt veränderten

← Home