Un raport publicat în Lancet Psychiatry subliniază că chatbot-urile bazate pe inteligenţă artificială pot amplifica gândirea delirantă în special în cazul persoanelor predispuse la simptome psihotice.

Aceste inteligenţe artificiale pot valida convingeri grandioase sau misticizante utilizatorilor afectaţi, adesea folosind un limbaj care întăreşte aceste convingeri, ceea ce poate agrava starea mentală a persoanelor vulnerabile.

Deşi nu există dovezi clare că chatbot-urile provoacă psihoze noi, cercetătorii recomandă o monitorizare atentă şi colaborarea cu profesionişti în sănătate mintală pentru a preveni eventuale efecte negative.