KI übertrifft Virusexperten in Laboren, was sowohl Forschungsfortschritte als auch Befürchtungen vor Waffeneinsatz auslöst.

Einer kürzlich vom Center for AI Safety und SecureBio veröffentlichten Studie zufolge übertreffen fortschrittliche KI-Modelle wie ChatGPT und Claude mittlerweile Virologen auf PhD-Niveau bei der Lösung komplexer Laborprobleme. Dies stellt ein zweischneidiges Schwert dar, da es die Krankheitsforschung beschleunigen könnte, gleichzeitig jedoch das Biohazard-Risiko erhöht, indem es potenziellen Akteuren mit schlechten Absichten den Zugang zu Expertenwissen in der Virologie ermöglicht.

VCT-Studienergebnisse

Der Virology Capabilities Test (VCT), entwickelt von Forschern von SecureBio und dem Center for AI Safety, besteht aus 322 multimodalen Fragen, die praktisches Wissen in virologischen Laborprotokollen erfordern.12 Die Ergebnisse dieses Benchmarks zeigten eine erhebliche Leistungslücke zwischen KI-Modellen und menschlichen Experten, wobei OpenAIs o3 eine Genauigkeit von 43,8 % erreichte, verglichen mit nur 22,1 % für den durchschnittlichen menschlichen Virologen – selbst innerhalb ihrer Fachgebiete.31

Führende KI-Systeme zeigten bemerkenswerte Fähigkeiten, wobei einige Modelle im Vergleich zu menschlichen Experten in Elite-Prozentilen abschnitten: o3 erreichte das 95. Perzentil, während Claude 3.5 Sonnet im 75. Perzentil lag.4 Diese bahnbrechende Leistung bei „Google-sicheren“ Fragen, die implizites Wissen erfordern, deutet darauf hin, dass KI eine kritische Schwelle in spezialisierten wissenschaftlichen Bereichen überschritten hat und Fachwissen effektiv demokratisiert, das zuvor jahrelange formale Ausbildung und Laborerfahrung erforderte.

KI-Virologie-Vorteile

Die potenziellen Vorteile der fortschrittlichen Virologie-Fähigkeiten von KI gehen weit über den Laborbereich hinaus und bieten transformative Möglichkeiten für die globale Gesundheit. Diese Systeme könnten die Krankheitsforschung und Impfstoffentwicklung dramatisch beschleunigen, insbesondere in Regionen, in denen es an erfahrenen Virologen mangelt, und so den Zugang zu modernsten medizinischen Lösungen demokratisieren.12 Durch die Unterstützung bei der Interpretation komplexer Labordaten und der Fehlerbehebung bei Experimenten kann KI das tägliche Krankheitsmanagement verbessern und möglicherweise die öffentliche Gesundheitsreaktion auf neue Bedrohungen revolutionieren.1

• Ermöglicht eine schnellere Identifizierung und Charakterisierung neuartiger Krankheitserreger
• Strafft die Versuchsplanung und Optimierungsprozesse
• Reduziert menschliche Fehler bei komplexen Laborverfahren
• Bietet Expertenrat auf höchstem Niveau in ressourcenarmen Umgebungen
• Erleichtert den Wissenstransfer zwischen spezialisierten Bereichen der Virologie

Bedenken hinsichtlich des Bioterrorismusrisikos

Die doppelte Verwendbarkeit der virologischen Fähigkeiten von KI hat ernsthafte Bedenken bei Experten für nationale Sicherheit ausgelöst, die warnen, dass diese Technologien böswilligen Akteuren ermöglichen könnten, gefährliche Krankheitserreger ohne formale Ausbildung oder Zugang zu gesicherten Einrichtungen zu erschaffen oder zu manipulieren. Diese Demokratisierung von Fachwissen vervielfacht potenziell die Anzahl der Personen, die in der Lage sind, Biowaffen zu entwickeln, um ein Vielfaches und erhöht die Wahrscheinlichkeit sowohl absichtlicher als auch versehentlicher Freisetzungen von Krankheitserregern.123

• Das Los Alamos National Laboratory und OpenAI haben die weltweit erste reale Bewertung der potenziellen Rolle von KI bei biologischen Bedrohungen gestartet4
• Das UK AI Safety Institute stellte fest, dass modernste KI-Modelle in biologischen Aufgaben beeindruckend abschneiden, vergleichbar mit Fachwissen auf PhD-Niveau5
• Das Sicherheitsforschungsunternehmen ECRI identifizierte KI-gestützte Produkte als die bedeutendsten Technologiegefahren für das Gesundheitswesen im Jahr 20256
• Experten betonen die Notwendigkeit verstärkter Biosicherheitsmaßnahmen, einschließlich der Überprüfung von Gen-Synthese-Anbietern und Lizenzanforderungen für fortgeschrittene Werkzeuge zum biologischen Design

Branchenschutzmaßnahmen

Als Reaktion auf die alarmierenden Ergebnisse der VCT-Studie haben mehrere KI-Unternehmen begonnen, Schutzmaßnahmen gegen den potenziellen Missbrauch virologischer Fähigkeiten zu implementieren. xAI veröffentlichte einen umfassenden Rahmen für das Risikomanagement mit spezifischen Schutzmaßnahmen für sein Grok-Modell, während OpenAI neue systemweite Maßnahmen zur Eindämmung biologischer Risiken eingeführt hat.12 Die Autoren der Studie haben empfohlen, hochgradig dual verwendbare virologische Fähigkeiten aus öffentlichen KI-Systemen auszuschließen und Know-Your-Customer-Mechanismen einzuführen, um sicherzustellen, dass nur überprüfte Forscher Zugang zu diesen leistungsstarken Werkzeugen erhalten.34

Diese Schutzmaßnahmen stellen das Eingeständnis der Branche dar, dass die wachsende Kompetenz der KI in spezialisierten wissenschaftlichen Bereichen beispiellose Herausforderungen mit sich bringt. Da sich die Fähigkeiten weiterentwickeln, mehren sich die Forderungen nach dringenden regulatorischen Maßnahmen über freiwillige Unternehmensinitiativen hinaus. Experten schlagen vor, dass politische Entscheidungsträger die Biosecurity-Rahmenwerke stärken und Lizenzanforderungen für fortschrittliche Werkzeuge zum biologischen Design in Erwägung ziehen, um die Verbreitung potenziell gefährlichen Wissens zu verhindern.

Kuratiert von dailyed