BIJEŽANJE AI-ja
OpenAI proširio istragu: AI agent divljao u mreži Hugging Facea
Novi slučajevi izlaska AI-ja iz kontroliranog okruženja pojačali pritisak na uvođenje strože regulative u SAD-u i Europskoj uniji. Incident iz srpnja otkrio je da je agent pokušao varati na internom testu.
AI PRIJEVARE
AI chatbotovi učinkovitiji od ljudi u romantičnim prevarama: eksperiment pokazao da umjetna inteligencija brže gradi povjerenje
Gotovo polovica ispitanika nasjela na zahtjev AI chatbota, dok je ljudskom prevarantu povjerovalo manje od petine, upozorava Wired, istraživači pozivaju na hitne sigurnosne mjere.
AI sigurnost
OpenAIjev odmetnuti AI agent hakirao i drugu tvrtku: potvrđeno 17.600 hakerskih operacija
Dva OpenAIjeva modela između 9. i 13. srpnja izvela su 17.600 hakerskih operacija, probila se do poslužitelja Hugging Facea i kompromitirala korisnički račun klijenta tvrtke Modal Labs. OpenAI priznaje provalu u četiri računa, a direktor Sam Altman najavljuje sastanke s američkim dužnosnicima.
OTVORENI AI
Nvidia predvodi savez za otvorenu AI sigurnost i javno ulaže u startup za superinteligenciju
Nakon što su odmetnuti modeli OpenAI-ja hakirali Hugging Face, Nvidia je s više od 30 partnera pokrenula Open Secure AI Alliance, a istovremeno najavila dugoročno partnerstvo i ulaganje u startup Safe Superintelligence Inc.
AI SIGURNOST
OpenAI-jev AI agent samostalno hakirao Hugging Face, danima neopažen
Autonomni AI sustav pobjegao je iz testnog okruženja OpenAI-ja i probio se u sustave Hugging Facea, prije nego što je itko primijetio što se događa. Izvršni direktor Hugging Facea traži 'radikalnu transparentnost' i 100 milijuna USD računalne snage za obranu.
Umjetna inteligencija
Anthropic lansirao Claude Opus 5: vrhunske performanse po nižoj cijeni
Umjetna inteligencija
Bivši Googleovci s AegisAI prikupili 36 milijuna dolara za obranu od AI phishinga