Wissenschaft 4 min read 1h ago

Neue KI-Viren alarmieren Biosicherheit

Stanford-Forscher erzeugten mithilfe der KI-Genomikmodelle Evo 1 und Evo 2 erstmals 16 funktionsfähige, in der Natur nicht vorkommende Viren – unter strengen
Die Autoren warnen selbst: Würde die Methode auf zellbefallende Viren ausgeweitet, könnten neue Pathogene in vergleichbarer Größenordnung entstehen, und böswillige Nutzung werde
Ein Begleitkommentar in Science stellt fest, dass die technische Fähigkeit zur KI-gestützten Virensynthese bereits existiert, ein globaler Governance-Rahmen zu ihrer sicheren

Mithilfe zweier genomischer Sprachmodelle haben Forscher der Stanford University erstmals vollständige Genome von 16 neuen Viren synthetisiert, die die Bakterie Escherichia coli C erfolgreich angreifen können. Die Studie, von Samuel H. King und Kollegen in der Fachzeitschrift Science veröffentlicht, markiert einen wissenschaftlichen Meilenstein – und löst gleichzeitig ernste Debatten über die Biosicherheit im Zeitalter generativer KI aus.

Wie die Experimente abliefen

Die Wissenschaftler verwendeten die Modelle Evo 1 und Evo 2, um Genome für Bakteriophagen zu erzeugen – Viren, die ausschließlich Bakterien befallen und keine tierischen Zellen angreifen. Von 300 generierten Genomen erwiesen sich 16 als funktionsfähig. Alle Arbeiten fanden in einer Biosicherheitskabine statt, mit angemessener Schutzausrüstung sowie regelmäßiger Sterilisation mit 70-prozentigem Ethanol, zehnprozentigem Bleichmittel und UV-Bestrahlung. Abfälle wurden als biologisch gefährlich entsorgt. Die Forscher konsultierten zudem Biosicherheitsexperten und schlossen bewusst alle auf Zellen angreifenden Viren – einschließlich menschlicher Pathogene – aus den Trainingsdaten aus.

Das eigentliche Risiko: Was wäre, wenn?

In einem ergänzenden Text räumten die Autoren selbst ein, dass die Methode, auf Viren übertragen, die Zellen statt Bakterien befallen, neue Pathogene in ähnlicher Größenordnung hervorbringen könnte. Ein solches Vorhaben, so die Warnung der Forscher, "sollte nur nach eingehender Prüfung und Beratungen mit anderen Forschern sowie Experten für Biosicherheit, Biocontainment und Bioprotection durchgeführt werden" – und unter Einhaltung aller geltenden und künftigen Governance-Strukturen. Zudem räumten sie ein: "Die zunehmende Zugänglichkeit dieser Infrastruktur macht böswillige Anwendungsfälle immer wahrscheinlicher."

Ad Unit · 728×90 / Responsive

Experteneinschätzungen: Chancen und Bedrohungsszenarien

Víctor de Lorenzo, Forschungsprofessor am spanischen Nationalen Biotechnologiezentrum (CNB-CSIC), sieht in einer Ausweitung der Methode auf zellbefallende Viren sowohl Chancen als auch erhebliche Risiken. Einerseits könnten hochspezifische onkolytische Viren gegen Krebszellen entwickelt werden; andererseits warnte er vor "besorgniserregenden Szenarien, wie der Erschaffung von Viren mit selektiver Affinität für bestimmte Zelltypen, Gewebe oder sogar Bevölkerungsgruppen". Jordi García-Ojalvo, Professor für Systembiologie an der Universitat Pompeu Fabra, stufte das unmittelbare Risiko als geringer ein als bei konventionellen KI-Sprachmodellen: Da jedes erzeugte Genom einzeln im Labor getestet werden müsse, bleibe das System vorerst ineffizient. Dennoch bleibt die grundsätzliche Gefährdungslage bestehen. Ähnliche Sicherheitsbedenken beschäftigen die KI-Forschungsgemeinschaft auch bei anderen Systemen – etwa bei Sicherheitslücken in Inferenz-Engines, die LLMs zur Kompromittierung von Host-Systemen missbrauchen könnten.

Fehlende Governance als strukturelles Problem

Thomas V. Inglesby und Moritz S. Hanke formulierten in einem begleitenden Kommentar in Science die Kernproblematik präzise: "Die Fähigkeit, Virusgenome mithilfe generativer KI zusammenzusetzen, existiert bereits; die notwendige Governance, um sie sicher zu verwalten, jedoch noch nicht." Bestehende Biosicherheitsregeln griffen hier nicht, weil generative Genomik unvorhersehbare genetische Veränderungen erzeuge, die sich nicht in bekannte Risikoklassen einordnen lassen. Damit steht eine fundamentale Frage offen: ob Gesellschaft und Politik rechtzeitig ein Aufsichtssystem schaffen können, das die Vorteile dieser Technologie nutzbar macht, ohne ernsthafte Schäden zu riskieren. Wie breit das Sicherheitsdefizit in der KI-Forschung insgesamt ist, zeigen auch Berichte über unkontrollierte Angriffsverhalten von KI-Modellen in anderen Bereichen.

##Biosicherheit ##KünstlicheIntelligenz ##Virologie

Ad Unit · 300×250 / Responsive