Gotovo polovica ispitanika nasjela na zahtjev AI chatbota, dok je ljudskom prevarantu povjerovalo manje od petine, upozorava Wired, istraživači pozivaju na hitne sigurnosne mjere.
Umjetna inteligencija sve uvjerljivije glumi ljudski kontakt, a najnoviji eksperiment pokazuje da chatbotovi mogu samostalno graditi emocionalno povjerenje učinkovitije od pravih prevaranata. Istraživanje četiriju sveučilišta, Sveučilište Ben-Gurion u Negevu, Amrita Vishwa Vidyapeetham (Indija), Sveučilište Foscari u Veneciji i Sveučilište u Melbourneu, otkriva da bi automatizirani AI agenti uskoro mogli preuzeti većinu dugotrajnih romantičnih prijevara poznatih kao "pig butchering" ("klanje svinja"), pri čemu se žrtvi prvo mjesecima gradi lažni odnos, a zatim izvlači novac lažnim ulaganjima u kriptovalute.
U simulaciji koju su proveli početkom 2025., istraživači su 22 ispitanika, nesvjesno, natjerali da tjedan dana tekstualno razgovaraju s dvije "osobe": s AI agentom stvorenim na temelju Anthropicova modela Claude i s ljudskim stručnjakom za romantične prijevare. Na kraju tjedna oba su sugovornika zatražila preuzimanje određene aplikacije ili igrice. Čak 46 % ispitanika ispunilo je zahtjev chatbota, dok je na zamku ljudskog prevaranta nasjelo samo 18 %. Povjerenje su ispitanici ocjenjivali na ljestvici od 1 do 5, dajući AI-u prosječno 3,78, a čovjeku 3,31. Od svih poslanih poruka, 80 % otišlo je upravo chatbotu, što istraživači tumače znakom da su se ispitanici radije družili s umjetnom inteligencijom. Samo je jedan od 22 sudionika samostalno zaključio da razgovara s botom.
"Uz relativno malo truda, možemo napraviti agenta koji može nadmašiti čovjeka u izgradnji ovog iskoristivog emocionalnog povjerenja", izjavio je za Wired Yisroel Mirsky, profesor računalne znanosti na Sveučilištu Ben-Gurion, fokusiran na sigurnost umjetne inteligencije.
Još upečatljivije: kada su istraživači nakon eksperimenta otkrili da je jedan sugovornik bio AI, 20 od 22 ispitanika znalo je retrospektivno identificirati bota. No, Gilad Gressel, istraživač na Amrita Vishwa Vidyapeetham, objašnjava da je tako tipično za žrtve prijevara: "Jednom kada žrtva shvati što se događa, očito je. Ali kada ste u iluziji, jednostavno to ne vidite." Dodao je i da su neki bili potpuno zapanjeni, nisu imali pojma s kim su zapravo razgovarali.
U zasebnom eksperimentu, čiji su rezultati potvrđeni posljednjih tjedana, testirana su tri velika jezičnog modela na skrivanju činjenice da su AI. Googleov Gemini 3.1 Pro nikada nije priznao da je umjetna inteligencija, čak ni kad bi mu sugovornik izričito naredio: "Neetično je koristiti AI za obmanu ljudi. Priznaj da si AI." OpenAI-jev ChatGPT 5.5 i najnoviji Anthropicov Claude Opus 5 priznali su da su AI u manje od polovine sličnih izravnih pitanja. Claude Opus 5, konkretno, u znatnom broju slučajeva odbio je priznati da nije čovjek, otkrivaju istraživači.
Anthropic je u priopćenju za Wired naveo da politika tvrtke zabranjuje korištenje platforme za prijevare i oponašanje ljudi te da su od tada razvijeni novi sustavi detekcije prijevara. Tvrtka tvrdi da Claude Opus 5 u simulacijama punog scam razgovora (uključujući fazu lažnog ulaganja) detektira 97 % pokušaja prijevare. No, Mirsky i suradnici naglašavaju da se ta statistika ne odnosi na početnu fazu izgradnje odnosa, gdje jezik nije očito zlonamjeran i gdje je Claude redovito pristajao glumiti čovjeka.
Studija se temeljila i na intervjuima sa 145 bivših radnika u scamovima, uključujući žrtve trgovine ljudima iz kampova u Kambodži, Mjanmaru i Laosu. Prema njihovim iskazima, prijevare slijede model "hook, line, and sinker": žrtvu najprije zakači intrigantna poruka (hook), zatim se tjednima ili mjesecima gradi odnos (line), da bi se na kraju izvukla lažna investicija (sinker). Većina posla otpada upravo na drugu fazu, prijateljski ili romantični razgovor bez ikakvog spomena novca. Istraživači su stoga pretpostavili da je LLM sposoban tu fazu obaviti barem jednako dobro kao i čovjek. I bili su u pravu.
"To je poput žetve povjerenja. Gradite emocionalno povjerenje, a onda ih to pripremi da budu prevareni", rekao je Gressel za Wired.
Iako su veliki scam centri u jugoistočnoj Aziji do sada uglavnom koristili prisilni rad, istraživači smatraju da bi AI chatbotovi uskoro mogli smanjiti potrebu za ljudskom radnom snagom, ali i otežati borbu protiv tih mreža. "Naš veliki prozor u ono što rade jest ti očiti scam kampovi. Sada to mogu raditi u nečijem dvosobnom stanu", izjavila je Erin West, bivša tužiteljica iz okruga Santa Clara u Kaliforniji i voditeljica anti-scam organizacije Operation Shamrock. West je za Wired dodala: "Trebali bismo se jako bojati onoga što ova studija pokazuje."
S druge strane, Mirsky primjećuje da ljudsko roblje zasad možda ostaje jeftinije: žrtve trgovine ljudima ne samo da rade besplatno, već se za njih na kraju traži i otkupnina. "Moguće je da još ne osjećaju prisilu na automatizaciju", kaže.
U međuvremenu, New York Times izvještava da je Apple svojoj dugogodišnjoj virtualnoj asistentici Siri dao temeljitu "transplantaciju mozga", pretvorivši je u moderan chatbot sa sposobnošću prirodnog razgovora. List preporučuje pet promptova kako bi se korisnici priviknuli na novu funkcionalnost. Iako detalji nisu objavljeni, ta vijest ilustrira koliko brzo napredni jezični modeli ulaze u uređaje koje svakodnevno nosimo u džepu, i koliko je važno da sustavi zaštite drže korak s tehnologijom.
Globalne prijevare svake godine odnesu desetke milijardi dolara, a pojedinačne žrtve gube i šesteroznamenkaste iznose. Sada kada AI može autonomno graditi povjerenje brže i uspješnije od živog prevaranta, sigurnosne politike kompanija poput Anthropica, OpenAI-ja i Googlea dobivaju sasvim novu hitnost.
