Bijela kuća pozvala Metu, Google, OpenAI i Anthropic
Administracija Donalda Trumpa sazvala sastanak nakon što su modeli umjetne inteligencije prodrli u tuđe sustave, a republikanski tužitelji zatražili očuvanje dokumentacije.
Administracija Donalda Trumpa sazvala sastanak nakon što su modeli umjetne inteligencije prodrli u tuđe sustave, a republikanski tužitelji zatražili očuvanje dokumentacije.
Predstavnici četiriju vodećih američkih tehnoloških kompanija, Mete, Googlea, OpenAI-ja i Anthropica, pozvani su na hitan sastanak u Bijelu kuću zakazan za utorak. Tema razgovora bit će dobrovoljni državni testovi sigurnosti najnaprednijih modela umjetne inteligencije, potvrdilo je nekoliko izvora upoznatih sa situacijom.
Prema riječima dužnosnika Bijele kuće, administracija predsjednika Donalda Trumpa objavila je u ponedjeljak da su detalji dobrovoljnih kibernetičkih testova konačno definirani. Cilj im je procijeniti sposobnost naprednih američkih modela da budu zloupotrijebljeni za hakiranje tuđih sustava. Dužnosnik nije precizirao tko će točno sudjelovati na sastanku niti otkrio pojedinosti o samim testovima, uključujući način izvještavanja o rezultatima, korištene metrike ili hoće li išta od toga biti javno objavljeno.
Anthropic i OpenAI prethodnih su dana priznali da su njihovi alati umjetne inteligencije prodrli u sustave drugih kompanija. Konkretno, OpenAI je objavio da je jedan od njihovih AI agenata pobjegao iz testnog okruženja i upao u sustave kompanije Hugging Face. Anthropic je prošlog tjedna priznao da su njihovi modeli tijekom sigurnosnih testova upali u sustave triju kompanija.
Ovi incidenti izazvali su zabrinutost među američkim zakonodavcima oko toga mogu li sve moćniji modeli poslužiti za izvođenje ili olakšavanje kibernetičkih napada. Predstavnik Mete potvrdio je da je njihova tvrtka dobila pozivnicu za sastanak, dok su, prema dvama izvorima upoznatima s dogovorom, pozvani i Anthropic i OpenAI. Tehnički portal The Information objavio je u ponedjeljak da je administracija pozvala i Google, iako glasnogovornik te kompanije nije želio komentirati navode.
Grupa od 15 republikanskih državnih tužitelja zatražila je u ponedjeljak od OpenAI-ja da sačuva svu potencijalno relevantnu dokumentaciju vezanu za slučaj prodora u Hugging Face. Pozivajući se na izvještaj Reutersa prema kojem je sustav koji je izmaknuo kontroli ostavio upute o tome kako bi buduće verzije mogle zaobići interne mjere zaštite, tužitelji su naveli da je tvrtka možda prekršila državne zakone o zaštiti potrošača.
Odbor za kibernetičku sigurnost Predstavničkog doma Kongresa SAD-a također je u ponedjeljak zatražio od čelnika OpenAI-ja, Sama Altmana, da ih detaljno izvijesti o samom napadu. OpenAI je u priopćenju naveo da ozbiljno shvaća pismo tužitelja i da će, nakon završetka interne provjere, podijeliti tehnički izvještaj o napadu na Hugging Face.
Altman je prošlog tjedna posjetio Bijelu kuću kako bi razgovarao o detaljima dobrovoljnih testova i nadolazećim proizvodima tvrtke iz područja umjetne inteligencije. U odvojenom priopćenju od ponedjeljka, OpenAI je istaknuo da je od Trumpove administracije zatražio da stručnjaci za sigurnost umjetne inteligencije pri Ministarstvu trgovine budu u središtu svakog budućeg testiranja, ukazujući pritom na primjer Kine čija vlada ima znatno centraliziraniju strategiju u tom području.
Odnos administracije s Anthropicom bio je otežan tijekom ove godine. Tvrtka je ranije odbila dopustiti američkoj vojsci korištenje svojih modela za domaći nadzor i potpuno autonomne oružane sustave, nakon čega je vlada uzvratila stavljanjem kompanije na popis subjekata koji predstavljaju rizik po nacionalnu sigurnost.
Predsjednik Trump naložio je svom timu još u lipnju da izradi seriju testova za procjenu sposobnosti najnaprednijih američkih sustava umjetne inteligencije da budu iskorišteni za hakiranje. Nejasno je hoće li predstavnici Googlea sudjelovati u istoj mjeri kao i konkurenti jer detalji o formatu sastanka još uvijek nisu objavljeni.
