Microsoft-Forscher der haben diese Woche eine kritische Schwachstelle in globalen Biosicherheitssystemen offengelegt. Sie zeigten, dass Werkzeuge zum Proteindesign mit künstlicher Intelligenz synthetische Varianten tödlicher Toxine erschaffen können, die bestehende Sicherheitsscreenings umgehen, die eigentlich die Entwicklung von Biowaffen verhindern sollen.

Die am 2. Oktober in Science veröffentlichte Studie zeigte auf, wie KI die genetischen Baupläne gefährlicher Proteine „umschreiben“ kann—indem sie deren DNA-Sequenzen verändert, während sie deren tödliche Struktur und möglicherweise auch Funktion beibehält, um von der weltweit von DNA-Synthese Unternehmen eingesetzten Screening-Software nicht erkannt zu werden.

Branchenübergreifende Reaktion schließt kritische Lücke

Unter der Leitung von Microsofts Chief Scientific Officer Eric Horvitz entdeckte das Forschungsteam die Zero-Day-Sicherheitslücke durch eine Red-Teaming-Übung, bei der über 75.000 Varianten gefährlicher Proteine, darunter Toxine und virale Proteine, erzeugt wurden. Die von KI entworfenen Sequenzen umgingen in ersten Tests erfolgreich die standardmäßige Biosecurity-Screening-Software, wobei reformulierte Toxine laut Horvitz „problemlos durch die Screening-Techniken kamen“.

Die Entdeckung führte zu einer dringenden, zehnmonatigen Zusammenarbeit, an der Twist Bioscience, Integrated DNA Technologies und mehrere Anbieter von Biosecurity-Screening-Software beteiligt waren, um Patches zu entwickeln und bereitzustellen. Nach den Updates erfassen die Screening-Systeme nun 97 % der gefährlichsten KI-generierten Varianten, obwohl etwa 3 % weiterhin unentdeckt bleiben.

Risiken der Doppelverwendung verdeutlichen die wachsende biologische Bedrohung durch KI

Die Schwachstelle rührt von denselben KI-Werkzeugen her, die derzeit die Medikamentenentwicklung und medizinische Forschung revolutionieren. Microsoft setzte seine eigene Software zur Proteingestaltung, EvoDiff, sowie andere Open-Source-Tools ein, um in digitalen Simulationen Toxine wie Rizin und Botulinum zu verändern. Zwar wurden keine tatsächlichen toxischen Proteine hergestellt, doch die Forschung zeigte, wie Bioterroristen KI potenziell nutzen könnten, um Schutzmaßnahmen zu umgehen.

„KI-Fortschritte treiben Durchbrüche in Biologie und Medizin voran. Doch mit neuer Macht kommt die Verpflichtung zu Wachsamkeit und umsichtigem Risikomanagement“, sagte Horvitz auf einer Pressekonferenz.

Emily Leproust, Geschäftsführerin von Twist Bioscience, betonte den sich wandelnden Charakter der Bedrohung: „Da sich die KI-Fähigkeiten weiterentwickeln, müssen sich die Screening-Praktiken ebenso rasch weiterentwickeln“. Das in South San Francisco ansässige Unternehmen, das Tausende DNA-Syntheseaufträge bearbeitet, hat in den vergangenen zehn Jahren weniger als fünf verdächtige Bestellungen an die Strafverfolgungsbehörden gemeldet.