O anchetă a dezvăluit că OpenAI plătește sute de contractori peste 50 de dolari pe oră pentru a revizui și evalua conversații reale purtate pe ChatGPT, în cadrul unui proiect intern denumit „Project Lily”. Acești contractori evaluează răspunsurile AI pentru a face sistemul mai natural și mai eficient.

Deși OpenAI îndepărtează numele conturilor și aplică un filtru automat pentru protecția datelor, unele informații personale și contextuale pot scăpa, fiind disponibile evaluatorilor. Aceștia pot avea acces chiar și la rezumate ale memoriei utilizatorilor din conversații anterioare, ceea ce ridică probleme de confidențialitate.

Pentru a proteja datele sensibile, utilizatorii pot opta să dezactiveze manual participarea conversațiilor lor la antrenarea modelelor, prin setările contului. Aceasta acoperă însă numai conversațiile viitoare, nu și pe cele deja analizate.