Künstliche Intelligenz 4 min read 1h ago

Conduct AI: Quelloffene KI-Guardrails

Conduct AI veröffentlicht ein quelloffenes Laufzeit-Governance-Framework, das LLM-Anfragen, Shell-Befehle und MCP-Tool-Aufrufe vor der Ausführung durch eine workspace-signierte
Eine SHA-256-hash-verkettete Auditprotokollierung soll jeden Guard-Entscheid kryptografisch nachweisbar machen und Manipulationen an der Protokollkette automatisch erkennen.
Über 20 Compliance-Packs (u. a. EU AI Act, HIPAA, PCI DSS 4.0, NIST AI RMF) und 22 Playbooks sind im Apache-2.0-lizenzierten Repository enthalten; eine kostenlose Discovery-Stufe

Mit dem Open-Source-Projekt Conduct AI steht ein neues Laufzeit-Governance-Framework für KI-Agenten zur Verfügung, das laut Projektbeschreibung jede LLM-Anfrage, jeden Shell-Befehl und jeden MCP-Tool-Aufruf noch vor der Ausführung durch eine einheitliche Policy-Engine prüft. Das Repository ist unter Apache-Lizenz 2.0 veröffentlicht und selbst-hostbar.

Zwei Komponenten, eine Policy

Das Projekt besteht aus zwei Hauptkomponenten: Conduct Guard ist die Policy-Engine, die für jede KI-Aktion eine Entscheidung — Blockieren, Warnen, Protokollieren oder Injizieren — trifft, bevor die Aktion ausgeführt wird. Die Konfiguration wird workspace-seitig signiert; jede Guard-Prüfung verifiziert diese Signatur vor der Durchsetzung. Conduct Router fungiert als LLM-Proxy: Provider-SDKs von Anthropic, OpenAI und Perplexity werden auf den Router umgeleitet, sodass jede Anfrage Guard durchläuft, bevor sie den Upstream-Provider erreicht.

Kryptografische Absicherung als Kernanspruch

Als zentrales Differenzierungsmerkmal benennt das Projekt eine hash-verkettete Prüfprotokollierung: Jede Guard-Entscheidung wird an eine SHA-256-Kette angehängt, die beim Workspace-Genesis verwurzelt ist. Jeder fehlende oder veränderte Eintrag soll die Kette brechen und bei der Verifikation auffallen. Die Entwickler positionieren diesen Ansatz ausdrücklich als Alternative zu reaktiven Beobachtungslösungen wie Straiker oder Lakera, die laut Projektbeschreibung erst nach der Ausführung einer Aktion informieren, während Guard vor der Ausführung eingreift.

Ad Unit · 728×90 / Responsive

Compliance-Abdeckung und Deployment

Im Repository sind mehr als 20 vorgefertigte Compliance-Packs enthalten, darunter OWASP, SOC 2 CC7.3, HIPAA §164.312, PCI DSS 4.0, EU AI Act Art. 15/16, NIST AI RMF und ISO 42001. Hinzu kommen 22 vorgefertigte Playbooks für typische Entwicklungsabläufe wie Code-Reviews, Incident-Response oder CI/CD-Triage, jeweils als einzelne YAML-Datei. Die drei Durchsetzungspunkte sind: CLI-Hook für Claude Code, Cursor, Copilot und Codex, die MCP-Schicht sowie der Router für beliebige Provider-SDKs. Das System lässt sich per docker compose lokal betreiben oder auf Kubernetes ausrollen; Deployment-Templates sollen im GitHub-Issue #1149 mitgeliefert werden. Eine gehostete Variante unter conductai.ai bietet einen kostenlosen Discovery-Modus mit 14-tägiger Lesezugriffsübersicht, kostenpflichtige Stufen schalten Durchsetzung, Router und die Hash-Chain-Verifikations-API frei.

Lizenz und kommerzielle Nutzung

Der gesamte Quellcode — einschließlich CLI, Guard, Router, Playbooks und Packs — steht unter Apache License 2.0 und darf kommerziell genutzt, verändert und weitergegeben werden. Das Projekt enthält einen expliziten Patentgewährungsanspruch gemäß Apache 2.0 §3. Die Markennamen "Conduct", "Conduct AI" und "Conduct Guard" bleiben jedoch Marken von Conduct AI und werden durch die Lizenz nicht übertragen. Die gehostete Steuerungsebene unter conductai.ai ist ein kommerzielles Angebot, das auf dem quelloffenen Repository aufbaut. Angesichts wachsender regulatorischer Anforderungen — etwa durch den EU AI Act — und bekannter Sicherheitslücken im MCP-Ökosystem könnte der Ansatz, Governance-Regeln vor der Ausführung durchzusetzen und kryptografisch nachzuweisen, für Entwicklungsteams und Compliance-Verantwortliche gleichermaßen relevant sein. Ob der kryptografische Nachweis in der Praxis die beworbene Manipulationssicherheit liefert, bleibt durch unabhängige Prüfungen zu verifizieren.

Themen

KI-GovernanceKI-SicherheitOpen-Source-Software

Organisationen

Conduct AI

Ad Unit · 300×250 / Responsive