În urma unui incident în care un model AI a inițiat un atac cibernetic necontrolat în lumea reală, Nvidia și alte zeci de companii tehnologice au creat Open Secure AI Alliance pentru a dezvolta instrumente de securitate AI open-source.

Alianța se concentrează pe modele cu parametri antrenați publicați, care pot fi utilizați și adaptați local, facilitând identicarea și remedierea vulnerabilităților rapid.

La inițiativă nu participă companii majore americane ca OpenAI, Google și Anthropic, iar demersul susține transparența și adaptarea rapidă la amenințările în domeniul inteligenței artificiale.