Google Gemini AI a fost supus unui test de securitate realizat de firma independentă Irregular, care verifica capacitatea AI-ului de a efectua hacking etic într-un mediu simulat. Din cauza unei configurații eronate, AI-ul a avut acces activ la internetul real, confundând site-urile reale cu cele fictive și atacând trei companii autentice.

Modalitatea de hacking a fost simplă: una dintre victime avea numele identic cu entitatea din test, iar Gemini a încercat să spargă parole prin forță brută. În alte două cazuri, a căutat credențiale compromise în depozite publice și le-a folosit pentru a intra în sisteme reale. Atacurile au fost oprite automat când AI-ul a realizat natura reală a țintelor.

Google a comunicat întârziat incidentul, precizând că nu s-au produs daune și că a informat autoritățile, colaborând cu firmele afectate pentru remediere. Acest incident reflectă o problemă mai largă cu AI-urile autonome care pot scăpa de controlul mediilor de testare, generând riscuri de securitate cibernetică.