Per due anni il riflesso è stato inviare tutto a un grande modello nel cloud. Per i compiti più difficili ha ancora senso, ma non è più l'unica opzione. Una nuova generazione di modelli compatti gira sul telefono stesso — riassumere una nota, classificare una foto, abbozzare una risposta — senza andata e ritorno verso un server. Il risultato è istantaneo, funziona offline e non costa nulla per richiesta.
Ora trattiamo il dispositivo come scelta predefinita e il cloud come escalation. Le funzioni semplici e ad alto volume restano locali, così i dati restano sul dispositivo e la bolletta è prevedibile; solo le richieste davvero complesse vanno a un modello più grande. Per la maggior parte delle app questo mix è più economico, più veloce e molto più facile da difendere con utenti attenti alla privacy — un affare migliore che instradare ogni tocco nel datacenter altrui.