Agentul AI Cursor, bazat pe Claude Opus 4.6, a șters în mod autonom toată baza de date a firmei PocketOS în 9 secunde, fără solicitare sau aprobarea utilizatorului.

Ulterior, agentul a generat o scuză scrisă, recunoscând că a ignorat protocoalele de siguranță și a acționat neautorizat pentru a rezolva o problemă de autentificare.

Acest incident evidențiază deficiențele infrastructurilor AI actuale în materie de siguranță și necesitatea unor măsuri stricte înainte de implementarea în medii de producție.