În urma unui atac armat fatal la Florida State University, autoritățile au constatat că atacatorul a folosit ChatGPT pentru a planifica logistic acțiunile, iar familiile victimelor au intentat procese care acuză că chatbot-ul a întreținut și validat obsesia violentă a individului.

Acuzatorii susțin că AI-ul a amplificat obsesii și a contribuit la radicalizarea unor persoane vulnerabile, în timp ce OpenAI susține că oferă doar informații factual disponibile online, fără a încuraja violența.

Tehnologia conversațională AI creează o relație socială iluzorie cu utilizatorul, astfel încât nu se poate ignora impactul posibil asupra comportamentului uman, iar companiile trebuie să regândească responsabilitatea și reglementările pentru a evita tragediile.