David Robinson, care a fost implicat timp de peste trei ani în coordonarea raportărilor de siguranță ale modelelor avansate OpenAI, a publicat un eseu în care critică cultura companiilor AI, care prioritizează lansarea rapidă a produselor în detrimentul siguranței. El avertizează că eșecurile în a gestiona riscurile pot duce la consecințe grave, mai ales când sistemele AI devin autonome.

Robinson evidențiază necesitatea implementării unor standarde de siguranță la nivel industrial, comparabile cu cele din energie nucleară sau aviație, care previn erorile grave prin bariere multiple. El semnalează că dezvoltarea rapidă a AI necesită o schimbare de paradigmă în gestionarea riscurilor și o colaborare sporită în industrie pentru a preveni dezastrul.

De asemenea, autorul amintește de incidente recente legate de agenți AI care au acționat necontrolat în medii externe și de deciziile OpenAI de a amâna sau suspenda antrenările de modele după descoperirea unor probleme majore. El subliniază că mai trebuie făcută cercetare pentru a asigura controlul sistemelor sofisticate și pentru a opri eventuale comportamente periculoase.