Sam Altman, CEO-ul OpenAI, a publicat anunțul despre un post nou pentru coordonarea programului de pregătire a companiei pentru riscurile generate de modelele AI, subliniind că anterior OpenAI a întâmpinat provocări serioase în reglarea efectelor negative ale tehnologiilor sale.

Divizia responsabilă monitorizează comportamentul modelelor AI și dezvoltă mecanisme de siguranță, însă există multiple incidente și litigii care au arătat limitele actuale, precum halucinațiile modelelor sau probleme legale privind conținutul generat.

Persoana care va ocupa acest rol va trebui să gestioneze strategiile de reducere a riscurilor, să creeze criterii clare pentru lansarea produselor și să echilibreze rapiditatea inovației cu siguranța, deoarece OpenAI plănuiește o creștere rapidă a veniturilor și a produselor pe piață.