Tutorial pratico: come usare i modelli Qualcomm AI Hub per classificazione e object detection
Questo tutorial ti guida attraverso un workflow completo con i modelli di Qualcomm AI Hub: dalla configurazione dell’ambiente all’inferenza su un dispositivo reale. Non è teoria — è codice funzionante.
Prima di tutto, installiamo il pacchetto necessario e prepariamo l’ambiente. Con poche righe di Python si installa qai_hub_models, si crea una cartella per gli output e si disabilita il tracciamento dei gradienti (serve solo inferenza). Servono anche funzioni utili, come to_nchw(), che converte tensori immagine dal formato NHWC (canale in ultima posizione) a NCHW (canale in prima posizione), quello che i modelli PyTorch si aspettano.
Il catalogo dei modelli pre-allenati è vasto: con una semplice scansione dei pacchetti installati si ottiene una lista di decine di modelli, da quelli per classificazione a quelli per rilevamento oggetti. Il tutorial usa MobileNet-V2, caricato direttamente con i pesi pre-allenati su ImageNet. Leggiamo la specifica dell’input e prepariamo le 5 classi principali da visualizzare con una funzione top-5, che trasforma i logit grezzi in probabilità e nomi leggibili.
Testiamo subito il modello: prima con un input di esempio integrato, poi con una foto reale di un cane scaricata da GitHub. L’immagine viene ridimensionata a 256 pixel, ritagliata a 224 e convertita in tensore. I risultati sono coerenti: il modello riconosce correttamente le razze canine con una confidenza superiore al 90%.
Il workflow non si ferma alla demo locale. Il tutorial esegue i comandi ufficiali di demo per MobileNet-V2 e poi installa il pacchetto aggiuntivo per YOLOv7, un modello di object detection. La demo di YOLOv7 produce un’immagine con i riquadri degli oggetti rilevati — un modo visivo e immediato di vedere il modello all’opera.
La parte più interessante arriva alla fine: il deploy su un dispositivo reale tramite Qualcomm AI Hub cloud. Se hai un API token (si ottiene gratuitamente su workbench.aihub.qualcomm.com), puoi compilare il modello in TFLite, profilare le prestazioni e inviare una richiesta di inferenza a un telefono reale, come un Samsung Galaxy S24. Il tutorial mostra come tracciare il modello con TorchScript, inviarlo per la compilazione, recuperare il modello compilato e scaricarlo come file .tflite, pronto per essere integrato in un’app mobile.
Alla fine, tutti gli output — le immagini con le predizioni, i file compilati — sono salvati nella cartella specificata. Un percorso che parte dalla sperimentazione locale e arriva al deploy hardware-aware in pochi passaggi.
