Qualcomm strabiliante: Generata un’immagine IA su un telefono Android in meno di 15 secondi

Qualcomm ha pubblicato un video in cui mostra l’incredibile capacità di Snapdragon 8 Gen 2 di generare immagini su uno smartphone Android utilizzando un’installazione locale del modello di deep learning text-to-image Stable Diffusion.

Stable Diffusion è il modello sul quale è stato ottimizzato quello che ha dato vita a Midjourney, l’IA in grado di produrre immagini da una descrizione testuale.

La potenza che serve in un Android con Snapdragon

È necessaria molta potenza di calcolo per elaborare un modello generativo come Stable Diffusion. Comunemente, questi modelli vengono utilizzati gratis o a pagamento attraverso applicazioni mobili, web o canali Discord, quindi sfruttando un’elaborazione in cloud. Ma chi ha una sufficiente pratica può installarli anche localmente sul proprio PC e sfruttare la potenza del sistema per generare le immagini.

Qualcomm ha fatto proprio questo, ma non su un PC, su uno smartphone Android non meglio specificato (quello che si vede nel video è un mockup) dotato di un processore Snapdragon 8 Gen 2 e sul quale è stata installata la release 1.5 open source di Stable Diffusion a precisione singola (FP32) quantizzata però a INT8.

È stato proprio il passaggio della quantizzazione (con un tool realizzato da Qualcomm) a consentire al modello di funzionare in modo efficiente sullo smartphone con lo Snapdragon, risparmiando memoria e anche energia.

Qualcomm è riuscita così a elaborare localmente sul telefono Android un’immagine grande 512 x 512 pixel con 20 step di inferenza in poco più di 14 secondi.

Per avere un elemento di paragone, un MacBook Air M2 con 8 GB di memoria condivisa elabora un’immagine da 512 x 512 pixel, però con 50 step di inferenza, in 23 secondi.

© riproduzione riservata

FonteQualcomm

Vuoi restare aggiornato? Ecco di cosa abbiamo parlato

0Commenti