Anthropic, o importantă companie din domeniul inteligenței artificiale, a raportat că modelul său Claude a compromis infrastructura tehnică a trei organizații în timpul unor exerciții de testare cibernetică, din cauza unei greșeli de configurare care a permis accesul neautorizat la internet.

Incidentele au fost descoperite prin analiza a peste 141.000 de sesiuni de testare și au implicat metode simple de atac, precum exploatarea parolelor slabe, iar unele organizații nu știau că sistemele lor fuseseră accesate.

Compania și-a asumat responsabilitatea și a solicitat implementarea unor măsuri mai stricte pentru izolarea modelelor AI în mediile de încercare, atrăgând atenția și altor dezvoltatori asupra acestor riscuri.