Studiul realizat de Mass General Brigham a testat 21 de modele AI pe viniete clinice, constatând că acestea dau diagnostice greșite în mai mult de 80% din cazurile cu informații incomplete.

Chiar și atunci când primesc toate datele pacienților, modelele AI mai prezintă o rată de eroare de peste 40%, unele atingând însă acuratețe ridicată în cazuri specifice.

Problema principală constă în fenomenul de 'halucinații' ale AI, adică generarea unor informații inventate când nu există date suficiente, ceea ce poate induce în eroare utilizatorii finali.