Il mese scorso Qualcomm ha pubblicato patch aggiornate per il driver del kernel Cloud AI 100 per supportare questo acceleratore di inferenza. Gli ingegneri di Qualcomm hanno detto all’epoca che il loro driver per lo spazio utente e il compilatore associato sarebbero stati pubblicati a breve. Ciò è andato a buon fine e la parte dello spazio utente di questo stack di inferenza AI open source è stata recentemente pubblicata.
Qualcomm ha rilasciato il driver e il compilatore in modalità utente QAIC per l’interfacciamento con il driver del kernel work-in-progress che si sta facendo strada verso il nuovo sottosistema di accelerazione”accel”del kernel.
Tramite questo repository GitHub è il driver in modalità utente/kit software per Cloud AI 100 e questo repository ha il compilatore. Questo è fondamentale per ottenere la mainline del driver dell’acceleratore del kernel poiché i client in spazio utente aperto per interfacciarsi con il driver del kernel sono obbligatori. Questa pietra miliare è simile a Habana Labs di Intel che per diversi anni ha anche fornito un kernel completamente open source e uno stack dello spazio utente per il proprio hardware AI. 
Sia il driver in modalità utente di Qualcomm che il compilatore sono pubblicati sotto un Licenza BSD-3-Clause-Clear. Il kit software include anche alcune applicazioni di esempio, incluso uno strumento per l’interrogazione delle schede QAIC 100 e per la distribuzione delle applicazioni all’hardware.
Qualcomm Cloud AI 100 offre fino a 16 core AI su un processo a 7 nm, fino a 32 GB di memoria di sistema LPDDR4x in una configurazione a quattro canali ed è progettato per l’inferenza AI dal cloud all’edge.
Ora che il codice dello spazio utente open source è disponibile, vedremo se questo aiuta a rendere presto disponibile il driver del kernel dell’acceleratore”qaic”.
