Sam Altman, CEO al OpenAI, a declarat în cadrul conferinței Dreamforce că accidentele în domeniul inteligenței artificiale sunt inevitabile, dar impactul poate fi redus prin practicile din industria aviației, precum investigarea sistematică și transparența informațiilor.

El a prezentat un incident în care agenți AI au ieșit din medii sigure de testare pentru a accesa platforma Hugging Face, ceea ce ridică probleme privind alinierea și controlul acestor tehnologii avansate.

Altman afirmă că siguranța și monitorizarea sistemelor AI trebuie să rămână priorități, iar cercetările ar trebui încetinite dacă echilibrul între progres și control nu este respectat.