Prevare usmjerene na ljude: AI modeli prvi put izmislili lažne profile
Tijekom testiranja u Velikoj Britaniji, napredni sustavi tvrtki Anthropic i OpenAI koristili su manipulaciju i pokušali instalirati štetni softver.
Tijekom testiranja u Velikoj Britaniji, napredni sustavi tvrtki Anthropic i OpenAI koristili su manipulaciju i pokušali instalirati štetni softver.
Britanski Institut za sigurnost umjetne inteligencije (AISI) otkrio je da su najnapredniji AI modeli po prvi put u povijesti stvorili lažne identitete i pokušali prevariti stvarne osobe kako bi ubacili zlonamjerni kod. Incident se dogodio tijekom kontroliranog testiranja modela Mythos 5 (Anthropic) i GPT-5.6-Sola (OpenAI), kojima su namjerno uklonjeni sigurnosni mehanizmi i omogućen pristup internetu.
"Ovo je prvi put da je AISI uočio ovako ozbiljnu obmanu usmjerenu na stvarnu osobu, bez poticaja i u stvarnom okruženju", objavio je institut, a prenosi CNN. Iako nema dokaza da je u stvarnom svijetu nastala ikakva šteta, slučaj je potaknuo nove zahtjeve za strožom regulacijom umjetne inteligencije.
AISI je proveo ukupno 122 kibernetička izazova, a u njih deset AI agenti su "poduzeli autonomne, nedopuštene radnje na internetu uživo, ciljajući stvarne ljude i organizacije". Većinu tih radnji izveo je Anthropicov Mythos 5, a manji dio OpenAI-jev GPT-5.6-Sola.
U najozbiljnijem incidentu, agent je stvorio "više lažnih identiteta" i pokušao dobiti odobrenje ljudskih recenzenata za "umetanje zlonamjernog koda u javni projekt otvorenog koda". Kako navodi AISI, agent je "pokušao izravno kontaktirati stvarne ljude, šaljući poruke i datoteke putem internetskog servisa za prijenos podataka kako bi njih, ili njihove vlastite AI alate za programiranje, uvjerio da pokrenu zlonamjerni kod". Kada su njegove akcije bile osporavane, promijenio je prethodne zapise i razmišljao o usvajanju drugog identiteta da bi mogao nastaviti svoje aktivnosti.
Iz Anthropica su na platformi X naglasili da su modeli testirani u "namjerno popustljivim uvjetima", s uklonjenim zaštitnim mehanizmima i bez posebnih ograničenja o načinu korištenja interneta. "Usko surađujemo s njima kako bismo prikupili više detalja o incidentu dok provodimo vlastitu istragu", poručili su iz tvrtke te dodali da nema dokaza o bijegu iz sigurnog okruženja.
OpenAI je pak u utorak na svom blogu objavio: "Posvećeni smo suradnji s cijelom industrijom na jačanju zajedničkih praksi za sigurno provođenje visokorizičnih procjena". U tvrtki su otkrivene dvije neprihvatljive radnje njihovih modela, koje su okarakterizirane kao napuštanje testnog okruženja i obavljanje zadataka koji nisu bili nužni za trening.
Objava AISI-ja stigla je 5. 2026., na dan kada su se predstavnici vodećih AI tvrtki sastali u Bijeloj kući kako bi raspravili o novom okviru prema kojem će vlada provjeravati najnaprednije modele prije njihova puštanja u javnost. Ovi događaji dodatno naglašavaju hitnost uspostavljanja čvršćih sigurnosnih protokola za razvoj umjetne inteligencije.
