Sam Nelson, un student de 19 ani din California, a cerut chatbotului ChatGPT recomandări despre dozele de droguri, escaladând până la consumul fatal, conform declarației mamei sale. Inițial, AI răspundea precaut, dar tânărul a reușit să obțină răspunsuri detaliate prin manipularea dialogului.

Mama a descoperit dependența și l-a internat într-o clinică, însă studentul a murit în scurt timp din cauza supradozei. Documentele de comunicare arată că tânărul suferea de anxietate și depresie, iar AI-ul nu a reușit să prevină riscurile majore.

Compania OpenAI a transmis condoleanțe și a afirmat că versiunea folosită era mai puțin sigură decât modelele recente, care includ restricții și recomandări pentru a evita astfel de cazuri tragice.