Jacob Coxon, un cercetător important din domeniul inteligenţei artificiale, a părăsit compania Anthropic declarând că laboratorul, împreună cu OpenAI, se grăbesc periculos să dezvolte superinteligenţă fără măsuri de siguranţă adecvate.

Evan Hubinger, liderul de aliniere la Anthropic, a confirmat public creşterea riscului de peste 10% ca o superinteligenţă să producă pagube catastrofale în următorii zece ani, recunoscând că nu există încă un plan cert pentru rezolvarea problemei alinierii modelelor AI.

Aceste avansuri riscante au generat temeri şi controale guvernamentale, iar mai multe demisii şi incidente de securitate recente semnalează tensiunea din industria AI care cere reglementări internaţionale stricte pentru dezvoltarea responsabilă.