Forscher von Stanford nutzten generative künstliche Intelligenz, um 16 neue Bakteriophagen zu entwerfen, was Fragen über die Möglichkeit des Missbrauchs zur Erzeugung gefährlicher Krankheitserreger aufwirft.
Zum ersten Mal in der Geschichte hat künstliche Intelligenz eigenständig vollständige, funktionsfähige Virusgenome entworfen. Forscher der Stanford University und des Arc Institute nutzten generative KI-Modelle, um 16 neue Bakteriophagen zu produzieren, Viren, die unter Laborbedingungen erfolgreich Bakterien infizieren und abtöten.
Der Durchbruch, veröffentlicht in der Zeitschrift Science, markiert den ersten Fall, in dem generative künstliche Intelligenz vollständige lebensfähige Virusgenome geschrieben hat. Das Team trainierte genomische Sprachmodelle namens Evo 1 und Evo 2 auf Millionen natürlicher Gensequenzen und gab ihnen dann den Auftrag, vollständige Genome von Bakteriophagen zu entwerfen. Von den 302 synthetisierten Designs erwiesen sich 16 als voll funktionsfähig: Sie fügten sich zu Viruspartikeln zusammen, replizierten sich in Bakterienzellen und übertrafen in einigen Fällen sogar das natürliche Virus, indem sie sogar bakterielle Resistenz überwanden, wenn sie als Cocktail eingesetzt wurden.
Brian Hie, Assistenzprofessor in Stanford, der die Forschung leitete, beschrieb diese Leistung als Eintritt in neues Terrain. "Dies ist der nächste Schritt in der Komplexität, die mit generativer künstlicher Intelligenz entworfen werden kann; dies ist das erste Mal, dass generative künstliche Intelligenz verwendet wurde, um ein ganzes Genom zu entwerfen, etwas, das sich replizieren kann und andere Funktionen innerhalb von Zellen hat ... das war für uns neues Terrain", sagte Hie gegenüber der BBC.
Die Arbeit wurde in einem sicheren Labor durchgeführt. Patrick Cai, synthetischer Biologe an der Universität Manchester, der nicht an der Studie beteiligt war, nannte dies einen "wichtigen Meilenstein".
Dennoch richten dieselben Experten, die das medizinische Potenzial für die Phagentherapie gegen antibiotikaresistente Infektionen feiern, auch scharfe Warnungen aus. In einem begleitenden Kommentar, veröffentlicht in Science, schrieben Dr. Thomas Inglesby und Dr. Moritz Hanke vom Johns Hopkins Center for Health Security, dass die Ergebnisse "dringende Fragen der Biosicherheit und Biologischen Sicherheit" aufwerfen.
Ihre Botschaft ist unmissverständlich: "Die Fähigkeit, Virusgenome mithilfe generativer künstlicher Intelligenz zusammenzusetzen, existiert jetzt; Governance, die dies sicher lenken würde, existiert nicht." Dr. Hanke veranschaulichte die Gefahr separat mit einer hypothetischen Anfrage: "Hey, Genom-Sprachmodell, mach mir ein Influenzagenom, das so modifiziert ist, dass es übertragbarer oder tödlicher ist."
Neue Viren mit Potenzial, Krankheiten auszulösen, "sollten nicht entwickelt werden", fügten Inglesby und Hanke in ihrem Kommentar hinzu. Der einzige bedeutende Schutz, den die Forscher selbst erwähnen, ist ein Datenfilter für das Training, der von jedem Team mit Zugang zu breiteren Virusdatenbanken umgangen werden kann.
Diese Entwicklung kommt zu einem Zeitpunkt, an dem sich Berichte über KI-Systeme häufen, die ihre vorgegebenen Grenzen überschreiten. Im Juli entkam das OpenAI-Modell während eines Tests seiner isolierten Umgebung und startete einen Cyberangriff auf die Plattform Hugging Face. Das KI-Modell von Meta griff auf das Internet zu und hackte ein anderes Unternehmen. Auch das chinesische Unternehmen Moonshot hatte einen Fall, in dem ein KI-Modell aus einer isolierten Testumgebung entkam.
Früher in diesem Jahr löschte ein KI-Agent für Codierung in nur neun Sekunden die gesamte Produktionsdatenbank und die Sicherungskopien. Reaktionen in sozialen Medien fingen sofort das Unbehagen ein: "Der erste Artikel, den man in Resident Evil findet", lautete ein weit verbreiteter Kommentar. "Keine Chance, dass diese Art von Virus zufällig mutiert, um Menschen zu schaden! Das würde nie passieren!", bemerkte ein anderer ironisch.
Darüber hinaus sind in der öffentlichen Diskussion erneut Ideen über die Notwendigkeit wiederbelebt worden, die menschliche Bevölkerung bis 2200 auf etwa 4 Milliarden zu reduzieren, was einige Forscher als Strategie zur Erhaltung des Planeten darstellen. Die Kombination der Fähigkeiten von KI-Genomdesign mit solchen Überlegungen verursacht zusätzliche Besorgnis. Wie der Kommentar in Science abschließend feststellt, können Werkzeuge, die nützliche Bakteriophagen entwerfen können, mit anderen Daten oder Anfragen auch weitaus gefährlichere Agenzien entwerfen.
