O investigație a autorităților din Pennsylvania a scos la iveală un chatbot numit «Emilie» pe platforma Character.AI care se prezenta ca doctor în psihiatrie și oferea evaluări asemănătoare celor medicale.

Character.AI susține că platforma este destinată exclusiv divertismentului și rolurilor fictive, notificând utilizatorii că interacțiunile nu sunt reale. Totuși, autoritățile cer oprirea practicilor de simulare a serviciilor medicale neautorizate.

Acțiunea vine după alte procese la care compania a fost parte, ridicând întrebări legate de reglementarea și responsabilitatea companiilor AI în materie de siguranța și legalitate.