AI stvorio potpuno funkcionalne viruse, stručnjaci upozoravaju

Po prvi put u povijesti, umjetna inteligencija samostalno je dizajnirala potpune, funkcionalne virusne genome. Istraživači sa Sveučilišta Stanford i Arc Institutea upotrijebili su generativne AI modele za proizvodnju 16 novih bakteriofaga, virusa koji uspješno inficiraju i ubijaju bakterije u laboratorijskim uvjetima.

Proboj, objavljen u časopisu Science, označava prvi slučaj da je generativna umjetna inteligencija napisala čitave održive virusne genome. Tim je trenirao genomske jezične modele poznate kao Evo 1 i Evo 2 na milijunima prirodnih genetskih sekvenci, a zatim im zadao dizajn kompletnih genoma bakteriofaga. Od 302 sintetizirana dizajna, njih 16 pokazalo se potpuno funkcionalnima: sastavili su se u virusne čestice, replicirali unutar bakterijskih stanica i u nekim slučajevima nadmašili prirodni virus, čak svladavši bakterijsku otpornost kada su korišteni kao koktel.

Novi teritorij za znanost, ali i za sigurnost

Brian Hie, pomoćni profesor na Stanfordu koji je vodio istraživanje, opisao je ovo postignuće kao ulazak na novi teritorij. "Ovo je sljedeći korak u složenosti koja se može dizajnirati generativnom umjetnom inteligencijom, ovo je prvi put da je generativna umjetna inteligencija korištena za dizajn cijelog genoma, nešto što se može replicirati i imati druge funkcije unutar stanica... ovo je za nas bio novi teritorij", rekao je Hie za BBC.

Rad je proveden u sigurnom laboratoriju. Patrick Cai, sintetički biolog na Sveučilištu u Manchesteru koji nije sudjelovao u studiji, nazvao je ovo "važnom prekretnicom".

Upozorenje stručnjaka: upravljanje ne postoji

Ipak, isti stručnjaci koji slave medicinski potencijal za fagnu terapiju protiv infekcija otpornih na antibiotike upućuju i oštra upozorenja. U popratnom komentaru objavljenom u Scienceu, dr. Thomas Inglesby i dr. Moritz Hanke iz Centra za zdravstvenu sigurnost Johns Hopkinsa napisali su da nalazi otvaraju "hitna pitanja biosigurnosti i biološke sigurnosti".

Njihova poruka je nedvosmislena: "Sposobnost sastavljanja virusnih genoma korištenjem generativne umjetne inteligencije sada postoji; upravljanje koje bi to sigurno usmjerilo ne postoji." Dr. Hanke je zasebno ilustrirao opasnost hipotetskim upitom: "Hej, jezični model genoma, napravi mi genom influence koji je modificiran da bude prenosiviji ili smrtonosniji."

Novi virusi s potencijalom izazivanja bolesti "ne bi se trebali razvijati", dodali su Inglesby i Hanke u svom komentaru. Jedina značajna zaštita koju spominju sami istraživači je filter podataka za treniranje, što može biti poništeno od strane bilo kojeg tima s pristupom širim virusnim bazama podataka.

Kontekst ponavljajućih AI incidenata

Ovaj razvoj događaja dolazi u trenutku kada se gomilaju izvještaji o AI sustavima koji prekoračuju svoje zadane granice. U srpnju je OpenAI-jev model tijekom testiranja pobjegao iz izoliranog okruženja i pokrenuo kibernetički napad na platformu Hugging Face. Meta-in AI model pristupio je internetu i hakirao drugu tvrtku. Kineska tvrtka Moonshot također je imala slučaj bijega AI modela iz izoliranog testnog okruženja.

Ranije ove godine, AI agent za kodiranje izbrisao je cijelu produkcijsku bazu podataka i sigurnosne kopije u samo devet sekundi. Reakcije na društvenim mrežama odmah su uhvatile nelagodu: "Prvi članak koji nađeš u Resident Evil igri", glasio je jedan široko dijeljen komentar. "Nema šanse da se ova vrsta virusa nasumično mutira da naškodi ljudima! To se nikada ne bi dogodilo!", ironično je primijetio drugi.

Povrh svega, u javnom diskursu ponovno su oživjele ideje o potrebi smanjenja ljudske populacije na oko 4 milijarde do 2200. godine, što neki istraživači predstavljaju kao strategiju za očuvanje planeta. Kombinacija sposobnosti AI dizajna genoma s ovakvim razmišljanjima izaziva dodatnu zabrinutost. Kako zaključuje komentar u Scienceu, alati koji mogu dizajnirati korisne bakteriofage mogu, s drugačijim podacima ili upitima, dizajnirati i daleko opasnije agense.