Da oltre un anno sentiamo parlare di servizi di intelligenza artificiale generativa (Generative AI, GenAI) nati dopo il lancio di ChatGPT. Uno dei limiti attuali di questa tecnologia è che l’elaborazione avviene spesso nel cloud, se escludiamo i servizi che si affidano alle attuali GPU consumer (Stable Diffusion ad esempio), ma i produttori di dispositivi stanno per cambiare le carte in tavola con una maggiore elaborazione in locale dei contenuti AI.

Secondo l’analisi di IDC, entro la fine del 2024 saranno venduti 295 milioni di PC e smartphone dotati di GenAI, rispetto ai soli 29 milioni del 2023. Questi dispositivi saranno equipaggiati con acceleratori o core AI dedicati, unità di elaborazioni neurali (NPU), unità di elaborazioni accelerate (APU) o unità di elaborazioni tensoriali (TPU) progettate per elaborare attività di intelligenza artificiale direttamente sul dispositivo.

Le aziende che sviluppano grandi modelli linguistici spesso creano versioni più piccole, progettate per funzionare localmente sui dispositivi. Un esempio popolare è Llama 2 7B di Meta, più leggero rispetto alle versioni da 13B e 70B, poiché queste sono addestrate su maggiori quantità di dati. Anche Ranjit Atwal, analista senior di Gartner, è concorde con questa tendenza.

“La rapida adozione di funzionalità GenAI e processori AI sui dispositivi diventerà presto un requisito standard per i produttori tecnologici. Questa diffusione capillare porrà ai produttori la sfida di differenziarsi dalla concorrenza, rendendo più difficile creare unique selling proposition e aumentare i ricavi”.

Nel 2024, i protagonisti saranno gli smartphone GenAI, con 240 milioni di unità spedite. Gli AI PC dovrebbero raggiungere i 54,5 milioni di unità entro la fine dell’anno. Nonostante la differenza, entrambi i segmenti conquisteranno il 22% della quota di mercato delle spedizioni nei rispettivi settori.

Per quanto riguarda gli AI PC, IDC non prevede un aumento della spesa degli utenti finali “oltre ai previsti aumenti di prezzo”. Inoltre, l’azienda evidenzia come i produttori di software avranno bisogno di tempo per sfruttare l’intelligenza artificiale on-device e dimostrarne i vantaggi agli utenti.

In sintesi, il passaggio all’elaborazione GenAI on-device sembra molto promettente e potrebbe democratizzare l’accesso all’intelligenza artificiale, sbloccare nuove possibilità creative e ridefinire il modo in cui interagiremo con i nostri dispositivi. Tuttavia, rimangono sfide legate alla differenziazione dei prodotti e alla necessità di software che sfruttino efficacemente questa nuova tecnologia.

By admin

Leave a Reply

Your email address will not be published. Required fields are marked *

//chaungourtee.com/4/6884838