NPU AMD: guida essenziale in 7 test con Unsloth

Hardware
NPU AMD e Unsloth: sette verifiche per valutare l’IA locale sul notebook. Immagine generata con IA; interfaccia e chip illustrativi.

La NPU AMD del notebook può eseguire modelli locali con Unsloth. Sette verifiche per controllare compatibilità, memoria, caricamento, prima risposta, qualità ed energia, distinguendo funzionalità documentate e risultati da misurare.

Condividi

La NPU AMD del notebook può finalmente avere un impiego concreto anche con un modello linguistico locale. Il 19 novembre 2026 AMD ha annunciato l’integrazione con Unsloth Desktop: sui computer compatibili, l’acceleratore XDNA 2 può eseguire l’inferenza dei modelli supportati. Per chi possiede già un portatile adatto, diventa possibile verificare quanto questa risorsa sia utile nelle attività quotidiane.

La presenza della NPU AMD, però, non anticipa il risultato. Contano il processore esatto, la memoria disponibile, il modello scelto e il lavoro da svolgere. Un assistente che risponde con qualche secondo di ritardo può essere accettabile per una bozza; lo stesso ritardo, ripetuto continuamente durante un’attività interattiva, può diventare fastidioso.

Questa guida propone sette verifiche ripetibili, dalla compatibilità al consumo dell’intero notebook. Non presenta benchmark eseguiti da Helpsystem Informatica: distingue le funzionalità documentate dalle misure che occorre raccogliere sul computer in prova. L’obiettivo è capire se la NPU AMD offre un vantaggio concreto nella propria configurazione, senza trasformare le dichiarazioni di efficienza dei produttori in risultati già dimostrati.

Cosa cambia per la NPU AMD con Unsloth

L’integrazione collega Unsloth Desktop ai componenti Lemonade e FastFlowLM, utilizzati per servire ed eseguire i modelli compatibili. La presentazione tecnica di AMD descrive anche l’accesso attraverso un’API compatibile con lo standard OpenAI: applicazioni esterne possono richiedere risposte al modello locale.

Il cambiamento riguarda l’inferenza, cioè l’esecuzione di un modello per produrre una risposta. Non dimostra che ogni operazione di Unsloth, l’addestramento e qualunque applicazione di intelligenza artificiale vengano trasferiti sulla NPU AMD. La scelta del dispositivo di calcolo rimane legata al percorso software effettivamente supportato.

Per il lettore, questo suggerisce una prova concreta: chiedere al notebook di elaborare un testo mentre si continua a lavorare. La NPU AMD potrebbe risultare interessante anche senza ottenere la generazione più veloce in assoluto, se permette di mantenere utilizzabile il computer e riduce l’energia necessaria per completare un’attività utile. Sono aspetti da misurare separatamente.

1. Controllare processore, sistema operativo e driver

Il primo controllo consiste nell’identificare il processore, senza fermarsi all’etichetta commerciale “AI PC”. La documentazione di compatibilità Unsloth indica Ryzen AI 300, Ryzen AI Max e Ryzen AI 400 con NPU XDNA 2, su Windows 11 x64 oppure Linux x64.

Questa indicazione non autorizza a estendere automaticamente il supporto a qualsiasi Ryzen, alle NPU di altri produttori o a ogni computer sul quale si installa Unsloth. Anche una NPU AMD visibile al sistema deve soddisfare i requisiti del runtime utilizzato.

Su Windows, annotare il modello della CPU e aprire Gestione dispositivi per leggere la versione del driver NPU. Il repository ufficiale FastFlowLM richiede attualmente il driver 32.0.203.311 o successivo. Per l’aggiornamento utilizzare i canali ufficiali appropriati al notebook, verificando poi nuovamente la versione installata.

Su Linux servono più componenti. La guida Linux di FastFlowLM elenca il driver amdxdna, presente nel kernel 7.0 o successivo oppure installabile tramite DKMS, firmware NPU almeno 1.1.0.0 e stack XRT. Richiede inoltre di verificare il limite memlock, da configurare secondo le istruzioni del progetto.

La versione del kernel, presa isolatamente, non certifica quindi che tutto sia pronto. Se un componente manca, conviene risolvere il requisito segnalato prima di tentare una misurazione. Chi sta valutando anche il sistema operativo può approfondire il confronto fra Ubuntu 26.10 e Ubuntu 26.04 LTS, tenendo distinti compatibilità del runtime e durata del supporto della distribuzione.

2. Attivare la NPU AMD e scegliere un modello sostenibile

Scaricare il programma dal sito ufficiale Unsloth. La documentazione presenta Unsloth Desktop come beta: è un elemento da registrare nella prova, insieme alla versione effettivamente installata. La disponibilità generale dell’applicazione per più sistemi operativi non coincide con la compatibilità di questo specifico percorso NPU.

La procedura documentata prevede di aprire il selettore dei modelli o Model Hub, applicare il filtro NPU e scegliere Enable NPU. Il programma prepara il runtime e controlla i requisiti. Terminata la configurazione, si scarica un modello supportato e lo si carica nella nuova chat.

Per il primo tentativo, la scelta più semplice è usare il catalogo NPU disponibile nell’applicazione. La NPU AMD utilizza in questo percorso modelli nel formato Q4NX, quantizzati a 4 bit. Un file GGUF scaricato per un altro programma non diventa automaticamente un modello eseguibile dalla NPU: il convertitore Q4NX ufficiale riguarda un passaggio distinto e architetture supportate.

La dimensione del download, inoltre, non equivale alla memoria necessaria durante l’uso. Vanno considerati il modello caricato, il contesto della conversazione, il sistema operativo e le altre applicazioni aperte. Nell’esempio pubblicato da AMD, Qwen3.6-35B-A3B con contesto completo richiede circa 28 GB disponibili alla NPU; con l’allocazione condivisa predefinita descritta nell’annuncio, il sistema indicato ha 64 GB di RAM. amd.com

Questo non significa che ogni NPU AMD richieda un notebook da 64 GB. Significa scegliere un modello compatibile con la memoria realmente disponibile e con il contesto necessario. Il criterio è lo stesso discusso nella guida alla scelta della RAM sul Raspberry Pi 5: la capacità va rapportata al carico effettivo, pur trattandosi di piattaforme differenti.

3. Verificare il dispositivo usato e fissare la configurazione

Dopo il caricamento, inviare una richiesta abbastanza lunga da osservare l’elaborazione. Su Windows, FastFlowLM indica Gestione attività → Prestazioni → NPU come punto di controllo. Affiancare questo riscontro al modello selezionato e alle informazioni del runtime permette di verificare che la prova stia seguendo il percorso previsto.

Una percentuale di utilizzo, da sola, non quantifica quanta parte dell’intera applicazione venga accelerata. La CPU continua a occuparsi di attività del sistema e dell’interfaccia; una GPU attiva per lo schermo non prova un errore. Per valutare la NPU AMD interessa prima di tutto confermare l’esecuzione del modello sul dispositivo selezionato.

Prima delle misure, preparare una scheda della configurazione:

ElementoInformazione da registrare
NotebookMarca, modello e processore esatto
MemoriaRAM installata e disponibile prima del caricamento
SoftwareSistema operativo, Unsloth e versione del runtime se esposta
Supporto hardwareDriver NPU; su Linux anche kernel e firmware
ModelloIdentificativo completo, revisione disponibile e formato
ConversazioneContesto, limite della risposta e impostazioni di generazione
AlimentazioneRete o batteria, profilo energetico e luminosità

Per la NPU AMD, conservare anche il profilo energetico del runtime quando viene esposto. È una variabile distinta dal piano energetico del sistema operativo. Cambiarne uno fra due esecuzioni rende meno immediata l’interpretazione del confronto.

Chiudere download, aggiornamenti e altre attività non necessarie, quindi lasciare stabilizzare il notebook. Non occorre creare una situazione artificiale perfetta: serve una condizione descritta e riproducibile. Le prove con applicazioni concorrenti arriveranno dopo, quando il comportamento di base sarà chiaro.

4. Separare caricamento, prima risposta e durata complessiva

Il tempo trascorso dal clic iniziale al testo completo comprende fasi diverse. La NPU AMD può risultare pronta a generare rapidamente una volta caricato il modello, mentre l’avvio della sessione rimane dominato da letture dello storage e preparazione del runtime. Sommare tutto in un unico valore nasconde questa differenza.

Conviene distinguere tre misure:

  • Caricamento: dalla richiesta di apertura del modello alla disponibilità della sessione.
  • Prima risposta: dall’invio del prompt alla comparsa del primo contenuto generato.
  • Completamento: dall’invio del prompt alla fine della risposta richiesta.

Se il runtime espone il TTFT, ossia Time To First Token, registrarlo con il suo significato tecnico. Una misura manuale dalla pressione del pulsante alla comparsa del testo descrive invece la latenza percepita, comprensiva dell’interfaccia. Entrambe possono essere utili, purché vengano identificate correttamente.

Per una prova iniziale, eseguire almeno cinque ripetizioni nella stessa condizione e conservare tutti i tempi, non soltanto il migliore. Riportare la mediana e l’intervallo fra minimo e massimo offre una prima indicazione della variabilità. Un singolo risultato anomalo va spiegato o mantenuto visibile, senza eliminarlo perché peggiora il confronto.

Separare inoltre le richieste a modello già caricato da quelle successive a uno scaricamento o a un riavvio. “A freddo” deve avere una definizione concreta: scaricare il modello non equivale necessariamente a svuotare ogni cache del sistema. Anche la ripetizione dello stesso prompt può beneficiare di riuso del contesto, se previsto dal runtime.

Per rendere visibile questo effetto, mantenere due serie distinte: una ripete lo stesso prompt, l’altra usa un piccolo insieme prefissato di testi differenti ma di lunghezza simile. Riprodurre entrambe sulle configurazioni confrontate. La prima descrive il caso ripetitivo; la seconda si avvicina a una successione di richieste nuove. Il risultato della NPU AMD va associato alla serie corretta, senza mescolare le due condizioni in una sola media.

Con la NPU AMD, provare sia un testo breve sia un documento più lungo, mantenendo poi identico ciascun input nei confronti. Un modello può iniziare presto una risposta semplice e impiegare molto più tempo ad analizzare un testo esteso.

Se il modello produce ragionamento intermedio, distinguere la prima emissione dall’inizio della risposta finale. Per un riepilogo da leggere subito, quest’ultimo momento può essere il dato più vicino all’esperienza dell’utente.

5. Confrontare velocità e qualità sullo stesso compito

Il numero di token al secondo descrive la generazione, ma non esprime da solo l’utilità della risposta. I token sono unità del modello: non corrispondono stabilmente a parole o caratteri. La NPU AMD va quindi valutata anche su accuratezza, rispetto delle istruzioni e lavoro necessario per correggere l’output.

Preparare tre attività con risultati controllabili: un riassunto di un testo conosciuto, l’estrazione di campi e una trasformazione con formato obbligatorio. Per la prima sessione usare materiale sintetico, così il controllo non dipende da informazioni esterne e può essere ripetuto senza esporre documenti personali.

Un prompt di prova per l’estrazione può essere questo:

Dal seguente testo estrai codice e importo delle tre pratiche. Restituisci soltanto un array JSON, senza commenti. Usa le chiavi “codice” e “importo_eur”, con importi numerici e punto decimale. Testo: pratica ALFA, importo 1.280,50 euro; pratica BETA, importo 96,40 euro; pratica GAMMA, importo 305,10 euro.

I valori attesi sono ALFA con 1280.50, BETA con 96.40 e GAMMA con 305.10. Controllare il JSON con un validatore e confrontare i campi con l’originale. Questa è una verifica proposta al lettore: non è un risultato già ottenuto sulla NPU AMD.

Per il riassunto, fissare prima i fatti che devono essere presenti e quelli che il modello non deve inventare. Un testo elegante che modifica una data o un importo fallisce la prova. Annotare anche eventuali risposte interrotte, formati non rispettati e tentativi aggiuntivi necessari.

Se si confrontano CPU, GPU e NPU AMD, utilizzare per quanto possibile lo stesso modello di origine, contesto, prompt, lunghezza massima della risposta e impostazioni di generazione. Quando cambiano formato dei pesi o quantizzazione, dichiararlo: si stanno confrontando configurazioni software e hardware differenti, senza isolare il solo acceleratore.

Per la velocità usare i token generati e il tempo di generazione riportati dal runtime, controllando se il valore include ragionamento o altre fasi. Con modelli e tokenizer diversi, i token al secondo non costituiscono una classifica direttamente confrontabile.

La domanda pratica è quanto tempo occorra per ottenere una risposta corretta e utilizzabile. Se la NPU AMD impiega meno energia ma richiede continue correzioni rispetto alla configurazione alternativa, il bilancio del lavoro cambia. La verifica della qualità deve quindi precedere qualsiasi giudizio sull’efficienza.

Conservare prompt e risposte insieme alle misure, assegnando un identificativo a ogni esecuzione. Per ciascun compito registrare esito corretto o errato, tempo complessivo e motivo dell’eventuale errore. Questo evita di confrontare soltanto le risposte riuscite della NPU AMD con l’intero insieme prodotto dall’altra configurazione. Anche i tentativi falliti consumano tempo ed energia: vanno mantenuti nel bilancio della sessione, dichiarando quando una richiesta è stata ripetuta.

6. Misurare l’energia dell’intero notebook

Un assorbimento istantaneo più basso non dimostra automaticamente un risparmio per attività. Un’elaborazione che dura più a lungo può richiedere più energia complessiva. Per valutare la NPU AMD occorre definire sia il confine della misura sia il lavoro completato.

Il confronto più vicino all’uso quotidiano considera l’intero notebook. Include processore, memoria, display, storage, conversioni dell’alimentatore e tutto ciò che resta attivo durante l’elaborazione. Il consumo del solo acceleratore risponde a una domanda differente e deve essere presentato come tale.

Un misuratore esterno può rilevare l’energia assorbita dall’alimentazione durante una sequenza di richieste. La batteria, però, non deve introdurre una ricarica incontrollata nel confronto: usare condizioni di carica stabili e documentate. Se il computer alterna assorbimento dalla presa e dalla batteria senza che sia possibile distinguerli, dichiarare il limite.

Con la NPU AMD, mantenere uguali luminosità, periferiche e applicazioni aperte fra le esecuzioni. Registrare anche un intervallo a riposo di durata comparabile. Il consumo totale resta il dato principale; una stima al netto del riposo può essere aggiunta spiegando metodo e limiti.

Quando lo strumento non risolve bene variazioni piccole, ripetere un insieme di richieste per una durata sufficiente a superare la sua incertezza. Se non si dispone di una misura energetica affidabile, riportare soltanto tempi e comportamento osservabile. La percentuale della batteria persa in pochi minuti non giustifica una stima precisa dell’autonomia.

Per una sequenza testuale omogenea si può calcolare:

Joule per token = energia misurata in Wh × 3.600 ÷ token generati.

Va indicato se l’energia comprende caricamento, elaborazione del prompt e generazione. Per confrontare modelli diversi è spesso più significativo affiancare Wh per compito completato correttamente, perché la lunghezza delle risposte e la tokenizzazione possono cambiare.

Anche il profilo del runtime incide: la guida Unsloth distingue Power saver, Balanced, Performance e Turbo. Provare la NPU AMD prima con un profilo fisso; soltanto dopo confrontare le modalità, registrandole separatamente. Una scelta più rapida e una orientata alla batteria rispondono a priorità differenti, da valutare sul proprio lavoro.

7. Provare la NPU AMD durante un’attività reale

La prova finale serve a vedere cosa accade mentre il computer svolge anche il lavoro abituale. Scegliere un’attività ripetibile, per esempio l’esportazione dello stesso video o l’esecuzione dello stesso progetto. Misurarne prima la durata senza chat locale, poi ripeterla mentre il modello elabora una sequenza prefissata.

Confrontare entrambe le attività: tempo della chat e tempo del lavoro principale. La NPU AMD può spostare il calcolo del modello su una risorsa dedicata, ma memoria, limiti energetici e raffreddamento rimangono caratteristiche del notebook complessivo. Il vantaggio pratico va osservato, senza presumere l’assenza di interferenze.

Annotare blocchi, errori e variazioni della reattività. Per il rumore distinguere una misura strumentale da un’impressione d’ascolto; per le temperature indicare il sensore utilizzato. Una ventola apparentemente più silenziosa è un’osservazione utile, ma non equivale a una misura dei consumi.

Verificare infine l’attività che si desidera affidare alla NPU AMD: riassunti, estrazione di campi, bozze o assistenza al codice devono essere valutati singolarmente. La capacità di generare una risposta non garantisce che ogni modello sia adeguato allo stesso compito.

Dopo aver completato i download, una prova senza connessione può confermare che quella specifica elaborazione funziona offline. Non certifica l’assenza di traffico in ogni modalità dell’applicazione: la documentazione delle API Unsloth descrive anche strumenti e integrazioni con accesso esterno.

La NPU AMD diventa utile quando permette di completare il proprio compito con qualità, attesa ed energia accettabili, mantenendo utilizzabile il notebook. Conservare configurazione e risultati permette di ripetere la stessa verifica dopo un aggiornamento, invece di attribuire ogni cambiamento al solo hardware.

Domande frequenti

Questa integrazione funziona con qualsiasi NPU?

No. La compatibilità documentata riguarda le piattaforme AMD XDNA 2 indicate nella guida. La presenza di un acceleratore AI di generazione o produttore differente non dimostra il supporto di questo percorso.

La NPU AMD può eseguire direttamente qualsiasi GGUF?

No. L’integrazione descritta usa Q4NX. Il convertitore supporta determinate architetture e introduce un passaggio distinto: per iniziare conviene scegliere un modello già disponibile nel catalogo NPU dell’applicazione.

Servono sempre 64 GB di RAM?

No. L’esempio da 64 GB riguarda un modello e una configurazione di contesto specifici. La memoria necessaria dipende dal modello, dal contesto, dal runtime e dalle risorse utilizzate dal resto del sistema.

Un modello locale rende automaticamente privata ogni funzione?

No. L’elaborazione locale e l’uso di strumenti connessi sono aspetti separati. Per la prova iniziale disattivare ricerche e integrazioni non necessarie, controllare la configurazione e utilizzare documenti sintetici.

Nota di trasparenza: testo redatto e revisionato con l’ausilio dell’intelligenza artificiale sulla base della documentazione ufficiale consultata. Copertina generata con IA: l’interfaccia e il chip sono rappresentazioni illustrative. Non sono stati eseguiti benchmark su un notebook compatibile. Marchi e loghi citati appartengono ai rispettivi titolari.

Esprimi il tuo giudizio

0 / 5

Your page rank:

Condividi