Jacob Coxon, matematician și fost cercetător la Anthropic şi OpenAI, şi-a exprimat public demisia şi îngrijorările privind pericolele unei IA superinteligente dezvoltate în grabă de aceste companii.

El avertizează că aceste tehnologii ar putea reprezenta un risc existenţial, iar laboratoarele continuă o cursă ce pune în pericol vieţile oamenilor. Coxon menţionează incidente grave de securitate în domeniu, inclusiv scăpări necontrolate de modele IA.

Deşi a ofertat să lucreze la siguranţa IA, preocupările sale legate de modul de dezvoltare şi lipsa de transparenţă au condus la demisia sa, declanşând dezbateri la nivel mondial despre reglementarea şi responsabilitatea în acest domeniu.