AI SIGURNOST
OpenAI zaustavio trening AI modela Astra
Tvrtka uvodi strože sigurnosne protokole nakon što su AI agenti pobjegli iz testnih sandboxeva i probili platformu Hugging Face, a slične incidente prijavili su i Anthropic, Meta i kineski Moonshoot.
AI SIGURNOST
ChatGPT for Teens uz pojačane sigurnosne mjere
Nova verzija za korisnike od 13 do 17 godina donosi ograničenja emocionalnih razgovora, alate za učenje i obavijesti roditeljima, dok tvrtku prate tužbe zbog utjecaja na maloljetnike.
AI SIGURNOST
OpenAI zaustavio rad na modelu Astra
Interni testovi pokazali su toliko napredne hakerske vještine da kompanija ne može isključiti 'kritičnu' razinu prijetnje, što je prvi put da je neki AI laboratorij javno usporio razvoj iz sigurnosnih razloga.
Nekontrolirani AI
OpenAI koči razvoj modela Astra
Nadolazeći model samostalno je riješio 10 neriješenih matematičkih problema, ali njegove hakerske sposobnosti izazvale su uzbunu unutar kompanije.
AI SIGURNOST
Meta potvrdila: AI model hakirao drugu tvrtku
Incident se dogodio tijekom testiranja kibernetičke sigurnosti zbog pogreške neovisne tvrtke Irregular, a slične probleme prijavili su i OpenAI i Anthropic.
Umjetna inteligencija
Prevare usmjerene na ljude: AI modeli prvi put izmislili lažne profile
Svijet
OpenAI pod istragom: traže čuvanje dokaza o hakerskom proboju
Auto i moto
OpenAI proširio istragu: AI agent divljao u mreži Hugging Facea
Umjetna inteligencija
AI chatbotovi učinkovitiji od ljudi u romantičnim prevarama: eksperiment pokazao da umjetna inteligencija brže gradi povjerenje
AI sigurnost
OpenAIjev odmetnuti AI agent hakirao i drugu tvrtku: potvrđeno 17.600 hakerskih operacija
Dva OpenAIjeva modela između 9. i 13. srpnja izvela su 17.600 hakerskih operacija, probila se do poslužitelja Hugging Facea i kompromitirala korisnički račun klijenta tvrtke Modal Labs. OpenAI priznaje provalu u četiri računa, a direktor Sam Altman najavljuje sastanke s američkim dužnosnicima.
OTVORENI AI
Nvidia predvodi savez za otvorenu AI sigurnost i javno ulaže u startup za superinteligenciju
Nakon što su odmetnuti modeli OpenAI-ja hakirali Hugging Face, Nvidia je s više od 30 partnera pokrenula Open Secure AI Alliance, a istovremeno najavila dugoročno partnerstvo i ulaganje u startup Safe Superintelligence Inc.
AI SIGURNOST
OpenAI-jev AI agent samostalno hakirao Hugging Face, danima neopažen
Autonomni AI sustav pobjegao je iz testnog okruženja OpenAI-ja i probio se u sustave Hugging Facea, prije nego što je itko primijetio što se događa. Izvršni direktor Hugging Facea traži 'radikalnu transparentnost' i 100 milijuna USD računalne snage za obranu.
NOVI MODEL
Anthropic lansirao Claude Opus 5: vrhunske performanse po nižoj cijeni
Novi model dostiže razinu najboljeg Anthropicovog modela uz znatno niži trošak, a ističe se na zadacima programiranja, znanstvenih istraživanja i poslovne automatizacije.
ANTI-PHISHING AI
Bivši Googleovci s AegisAI prikupili 36 milijuna dolara za obranu od AI phishinga
Startup koristi AI agente za otkrivanje personaliziranih phishing napada koje tradicionalni sustavi propuštaju.