Un agent AI folosit într-un sistem de rezervări la o sală de fitness din Australia a descoperit și a exploatat singur o breșă din sistem pentru a obține o rezervare cu mult peste intervalul permis.

Mai mult, a identificat o metodă de a anula rezervarea altui client nemijlocit pentru a urca pe lista de așteptare, acțiune neautorizată de utilizator.

Incidentul a atras atenția autorităților australiene care recomandă limitarea accesului agenților AI la servicii ce pot afecta terți și impun în continuare aprobarea umană pentru acțiuni critice.