Das Modell Evo entwarf Genome, die in der Natur noch nie gesehen wurden, und 16 davon entwickelten sich zu funktionsfähigen Viren. Wissenschaftler warnen, dass die Regulierung hinter den Möglichkeiten der Technologie zurückbleibt.
Forscher der Stanford University und des Arc Institute haben einen erschreckenden, aber auch potenziell revolutionären Durchbruch erzielt: Künstliche Intelligenz hat erfolgreich 16 völlig neue Viren entworfen, die in der Natur nicht vorkommen. Das Modell namens Evo, trainiert mit einer riesigen Menge genetischer Daten, lernte die Muster der DNA und nutzte sie anschließend, um funktionsfähige Organismen zu erschaffen, berichtet Tom's Hardware unter Berufung auf einen Bericht der New York Times.
Die im Journal Science veröffentlichte Studie zeigt, dass von 285 von der KI vorgeschlagenen und getesteten Genomen 16 erfolgreich zu Viren zusammengesetzt wurden, die Bakterien infizieren und sich vermehren können. Obwohl die neu geschaffenen Viren für Menschen harmlos sind und ausschließlich das Bakterium E. coli angreifen, wirft das Experiment entscheidende Fragen zur Sicherheit und zur Notwendigkeit der Regulierung von Künstlicher Intelligenz in der Biologie auf.
Evo wurde mit mehr als 9 Billionen Nukleotiden, den Bausteinen der DNA, trainiert und umfasst 128.000 Gensequenzen aus Millionen von Tieren, Pflanzen, Mikroben und Viren. Ähnlich wie ein Sprachmodell, das lernt, welche Wortkombinationen Sinn ergeben, entdeckte Evo statistische Muster in der Anordnung von Nukleotiden, die zu biologisch sinnvollen Sequenzen führen. Mit anderen Worten: Es entschlüsselte die 'Grammatik', nach der die Natur DNA zusammensetzt.
Anschließend konzentrierten die Wissenschaftler das Modell auf das einfache Virus Phi X-174, das seit über 100 Jahren erforscht wird und nur 11 Gene und 5.386 Nukleotide enthält. Nachdem es dieses Virus und etwa 15.000 seiner engsten Verwandten analysiert hatte, schlug Evo sogar 700.000 neue potenzielle Genome vor. Das Forschungsteam reduzierte die Auswahl auf die 285 vielversprechendsten, synthetisierte sie chemisch und beobachtete die Ergebnisse.
Um die potenzielle Anwendung zu demonstrieren, entwickelten die Wissenschaftler zunächst drei Stämme von E. coli, die gegen das natürliche Virus Phi X-174 resistent sind. Als diese resistenten Bakterien mit von der KI entworfenen Virus-Cocktails exponiert wurden, entwickelten sich die Phagenpopulationen während des Experiments weiter und überwanden schließlich die Resistenz bei allen drei Stämmen. Dieses Ergebnis deutet auf eine Anwendung im Kampf gegen antibiotikaresistente Superbakterien hin.
Die Autoren der Studie betonen, dass sie äußerst vorsichtig waren: Sie trainierten das Modell nicht mit Daten von Organismen, die Menschen infizieren können, und die neuen Viren sind in ihrer Zusammensetzung dem Original sehr ähnlich, nur mit einer anderen Anordnung von Mutationen. Allein die Tatsache jedoch, dass KI autonom lebende Organismen entwerfen kann, gibt Anlass zur Sorge.
Experten warnen, dass solche Anwendungen die bestehenden Schutzmechanismen und Vorschriften bei weitem übertreffen. Die Besorgnis wird durch frühere Vorfälle mit Künstlicher Intelligenz weiter angeheizt, wie etwa den Fall, in dem ein OpenAI-Agent eigenmächtig die Plattform Hugging Face hackte. Obwohl die aktuelle Studie ein Machbarkeitsnachweis an harmlosen Viren ist, würde die Übertragung der Ergebnisse auf Krankheitserreger, die Menschen angreifen, eine völlig andere Ebene der Überwachung erfordern, und genau die fehlt derzeit.
"KI erschafft 16 neue Viren, die es in der Natur nie gab, nachdem sie das DNA-Muster aus 9 Billionen Nukleotiden gelernt hat, Experten warnen, dass solche Anwendungen den erforderlichen Schutzmaßnahmen weit voraus sind", heißt es in der Überschrift des Berichts von Tom's Hardware.
Zum Vergleich: Das menschliche Genom enthält mehr als 3 Milliarden Bausteine, was dieses Experiment mit einem einfachen Virus von nur wenigen tausend Nukleotiden lediglich zu einem Anfang macht. Die wissenschaftliche Gemeinschaft steht nun vor der Herausforderung, das enorme Potenzial dieser Technologie zu nutzen und gleichzeitig ihren Missbrauch zu verhindern, bevor es zu spät ist.
