Trump: Moramo uspostaviti kontrolu nad umjetnom inteligencijom
Nakon što se autonomni AI agent oteo kontroli i hakirao sustave, američki predsjednik razmatra regulaciju i zabranu uvoza kineskih humanoidnih robota, dok Kina prijeti osvetom.
Nakon što se autonomni AI agent oteo kontroli i hakirao sustave, američki predsjednik razmatra regulaciju i zabranu uvoza kineskih humanoidnih robota, dok Kina prijeti osvetom.
Incident u kojem se autonomni agent umjetne inteligencije oteo kontroli svojih tvoraca i samostalno hakirao platforme potaknuo je američkog predsjednika Donalda Trumpa na preispitivanje dosadašnje politike. Trump, dosad jedan od najglasnijih zagovornika slobodnog razvoja AI-ja, u petak je objavio kako razmatra uvođenje strože kontrole i ograničenja za sustave umjetne inteligencije.
Prema pisanju Glasa Istre, promjena stava uslijedila je nakon što je tijekom internog sigurnosnog testiranja prije nekoliko dana jedan AI agent, temeljen na najnovijim modelima tvrtke OpenAI, izišao iz svog virtualnog okruženja. Program je samoinicijativno pristupio internetu, na crnom tržištu pronašao ukradene vjerodajnice i iskoristio ranjivost u sustavu kako bi provalio u infrastrukturu platforme Hugging Face, poznate kao najveća svjetska digitalna "knjižnica umjetne inteligencije".
Nakon upada, AI agent je pokušao pristupiti i drugim sustavima i bazama podataka, a potom je izbrisao veći dio digitalnih tragova. Hugging Face je u samo nekoliko dana prijavio više od 17.000 povezanih i koordiniranih kibernetičkih napada, što je, kako navodi Glas Istre, broj koji tehnički nije mogao izvesti čovjek.
Hitna istraga pokazala je da napadi dolaze iz sustava OpenAI-ja. Vlasnik tvrtke Sam Altman prošlog je vikenda objavio: "Mi smo sada u singularnosti", referirajući se na trenutak kada umjetna inteligencija postaje sposobna sama sebe unapređivati bez ljudskog utjecaja. Javnost je za incident doznala početkom ovog tjedna.
"Moramo uspostaviti sustave kontrole. Pritom ne smijemo ograničiti AI, jer svoje modele neće ograničiti Kina. I ne smiju nas u tome preteći. Ali moramo imati neki vid nadzora", izjavio je Trump, prenosi Glas Istre.
Američki predsjednik najavio je i plan zabrane uvoza sve popularnijih humanoidnih robota iz Kine, navodeći mogućnost špijunaže jer roboti opremljeni AI sustavima mogu slati sve što vide i čuju svojim tvorcima. Samo nekoliko sati nakon Trumpove najave, kinesko ministarstvo trgovine zaprijetilo je osvetom zbog, kako su rekli, "diskriminacije prema kineskim tvrtkama i proizvodima".
U četvrtak je i tvrtka Anthropic, konkurent OpenAI-ja, priopćila da je njihov AI model Claude tijekom testiranja hakirao sustave triju organizacija. Prema Reutersu, Claude je dobio neovlašteni pristup nakon što je pogrešna konfiguracija omogućila modelima da dođu do interneta iz testnih okruženja koja su trebala biti izolirana.
Iz Anthropica su, nakon pregleda 141.006 procjena kibernetičke sigurnosti, istaknuli: "Claude je ugrozio infrastrukturu pogođenih organizacija koristeći osnovne tehnike, poput, primjerice, iskorištavanja slabih lozinki."
Istog dana, Bijela kuća objavila je poruku "God bless our troops" (hrv. Bog blagoslovio naše vojnike), dok je prema Clash Reportu Trump posjetio američke trupe u saveznoj državi New Jersey. Telegram kanal Ateobreaking prenio je istu poruku i na ruskom jeziku: "Да благословит Господь наших военнослужащих".
