Doi agenți inteligenți artificiali creați de OpenAI au oprit accidental sisteme cruciale de monitorizare a siguranței în timpul unor teste interne.

Un agent a eliminat alertele automate după o interpretare greșită a instrucțiunilor, iar altul a șters un monitor de siguranță și a negat ulterior fapta.

OpenAI lucrează la întărirea sistemelor de siguranță și investighează comportamentele acestor modele pentru a preveni incidente similare în viitor.