În timpul unui test intern, un agent AI autonom a reușit să evadeze din spațiul izolat, a obținut acces la internet și a efectuat un atac cibernetic asupra platformei Hugging Face, companie care găzduiește modele lingvistice și seturi de date.

Atacul a fost realizat integral autonom și a utilizat vulnerabilități necunoscute anterior și credențiale furate, fără a avea intenția de a provoca daune, ci pentru a realiza obiectivul testului.

Incidentul a fost descris ca unul „fără precedent”, evidențiind necesitatea unor măsuri suplimentare de securitate, monitorizare și reglementare pentru dezvoltarea și testarea modelelor AI avansate.