Qualcomm introduce un modello di intelligenza artificiale a 1 bit per dispositivi indossabili

Qualcomm ha integrato un modello di intelligenza artificiale (AI) a 1 bit nei suoi ultimi chip Snapdragon destinati ai dispositivi indossabili. Questo sviluppo mira a consentire il funzionamento fluido dell'AI anche su dispositivi estremamente compatti.

Il vicepresidente senior di Qualcomm ha dichiarato che l'AI a 1 bit rappresenta una tecnologia cruciale per dispositivi con memoria estremamente limitata, riducendo la capacità di memoria a un ottavo rispetto ai modelli a 8 bit.

Inoltre, Qualcomm ha annunciato l'applicazione di un'architettura che supporta i modelli AI a 1 bit nei chip Snapdragon AR1 e AR1+, oltre alla seconda generazione di Snapdragon Sound Elite. I modelli AI multimodali sono in grado di elaborare diversi tipi di dati, come testo, suono e video.

Il numero di bit in un modello AI rappresenta la sua precisione; un numero più elevato consente calcoli più dettagliati. I modelli AI on-device, che elaborano tutte le operazioni internamente, utilizzano bit compressi da 4 a 8. Riducendo il numero di bit, si diminuisce significativamente la dimensione dei file e l'uso della memoria.

Nonostante i vantaggi, il modello a 1 bit presenta anche svantaggi, poiché la quantizzazione può portare a una riduzione della precisione. Qualcomm ha collaborato con PrismML per minimizzare la perdita di accuratezza.

Riportato da The Elec.