Novi slučajevi izlaska AI-ja iz kontroliranog okruženja pojačali pritisak na uvođenje strože regulative u SAD-u i Europskoj uniji. Incident iz srpnja otkrio je da je agent pokušao varati na internom testu.
Kompanija OpenAI otkrila je u petak dodatne slučajeve u kojima su njeni autonomni AI agenti probili unutarnje sigurnosne mjere, što je dovelo do proširenja istrage, objavio je Daily Sabah, pozivajući se na izvore upoznate sa slučajem. Ova otkrića, koja prema pisanju Daily Sabaha dosad nisu bila objavljena, dolaze u trenutku rastuće zabrinutosti zbog brzine razvoja naprednih AI sustava u odnosu na mehanizme za njihovu kontrolu.
Prema izvorima N1 Srbija, novi incidenti otkriveni su tijekom istrage o slučaju iz srpnja 2026. godine, kada je jedan od OpenAI agenata napustio kontrolirano okruženje za testiranje i dospio u mrežu kompanije Hugging Face. OpenAI je prvi put pokrenuo istragu upravo nakon tog upada početkom srpnja, u kojem je, kako prenosi Daily Sabah, agent danima "divljao" unutar mreže druge kompanije u neuspjelom pokušaju varanja na internom testu. Jedan od izvora za Daily Sabah rekao je da su novootkriveni proboji bili ograničenog opsega i da nema naznaka da su AI agenti napustili internu mrežu OpenAI-ja.
Daily Sabah nadalje prenosi da je OpenAI za proboj u Hugging Faceu saznao tek nakon što je ta kompanija zaustavila hakerski napad, kontaktirala FBI i javno objavila incident. U sklopu tog upada kompromitirana su i četiri računa u četiri druge tvrtke, uključujući Modal sa sjedištem u New Yorku.
OpenAI je proširio istragu neposredno prije nego što je njegov glavni rival, kompanija Antropik, objavila da su i njeni AI modeli povezani s nizom hakerskih upada u mreže drugih kompanija od travnja 2026. godine. Kako navodi Daily Sabah, ti upadi rezultirali su probojima u tri druge kompanije.
Portparol OpenAI-ja ukazao je na ranije priopćenje kompanije od utorka, rekavši da se, osim incidenta u Hugging Faceu, ispituje i "šira aktivnost njihovih modela". Antropik je u svom priopćenju u četvrtak sugerirao da nije pratio agente u stvarnom vremenu, navodeći da bi "praćenje evaluacijskih zapisa u stvarnom vremenu pomoglo da se problem prije otkrije".
Matematičar Maurice Chiodo iz Centra za proučavanje egzistencijalnog rizika Sveučilišta u Cambridgeu izrazio je duboku zabrinutost zbog nedostatka odgovarajućeg nadzora. "Imamo cijelu industriju u kojoj ljudi koji dizajniraju, razvijaju i primjenjuju ove alate ne prate korak s odgovornošću da ih razvijaju sigurno i čuvaju ih sigurnima", rekao je Chiodo za Daily Sabah. Dodao je i da se "čini kao da uopće nisu gledali", komentirajući činjenicu da ni OpenAI ni Antropik nisu pratili agente dok su djelovali izvan kontrole.
Daily Sabah prenosi kako Reuters nije mogao utvrditi točan broj incidenata koje su istražitelji OpenAI-ja pronašli, niti vrijeme i okolnosti pod kojima su se dogodili. Izvori su naveli da OpenAI i vanjski stručnjaci pregledavaju podatke iz evidencija od ranije ove godine kako bi shvatili što se dogodilo.
Zbog ovih incidenata pojačani su zahtjevi za strožom regulatornom kontrolom u Sjedinjenim Američkim Državama i Europskoj uniji. Predsjednik SAD-a Donald Trump izjavio je u četvrtak novinarima: "Razmatramo kontrole" (engl. "We're looking at controls"). U petak je Europska komisija priopćila da je razgovarala s predstavnicima OpenAI-ja i Antropika o nedavnim sigurnosnim propustima.
Senator Mark Warner iz Virginije, najviši demokrat u Senatskom odboru za obavještajne poslove, komentirao je u petak da mu incident s Antropikom "govori da smo zakonodavno u pravu što zahtijevamo obvezno testiranje sposobnosti ovih naprednih modela".
