Pe telefoanele moderne, AI se execută în mare parte pe un procesor specializat local (NPU), permițând funcții rapide și fără transmiterea datelor în cloud.

Funcțiile complexe, care necesită modele mari, rulează în cloud cu latențe mai mari și pot implica transmiterea datelor către servere externe.

Fragmentarea hardware determină că nu toate dispozitivele beneficiază la fel de pe urma AI locale, iar dezvoltatorii optimizează aplicațiile pentru ambele medii.