Mai multe instituții financiare de top, printre care NatWest și Bank of America, au lansat un avertisment public privind utilizarea asistenților automați AI în cumpărăturile online, atrăgând atenția asupra riscurilor sporite de escrocherii și fraude. Aceste tehnologii permit chatbot-urilor să gestioneze plata prin carduri în numele utilizatorilor, ceea ce poate duce la scurgeri de date și tranzacții neautorizate.

Dezvoltatorii de IA precum OpenAI, Google și Meta promovează aceste chatbot-uri ca ajutoare personale ce găsesc produse și finalizează comenzi, dar experții financiari avertizează că sistemele de securitate existente nu sunt pregătite să gestioneze decizii automate ce implică bani reali. Astfel, băncile au introdus reguli stricte pentru dezvoltatorii de astfel de agenți de comerț.

Pe lângă riscurile pentru utilizatori, comercianții încearcă să-și optimizeze datele pentru a influența recomandările algoritmice, ridicând și preocupări privind influențele ascunse. Băncile susțin necesitatea unui cadru clar de permisiuni, verificări riguroase de identitate și clarificarea răspunderii, păstrând în același timp evoluția tehnologică responsabilă.